Кум вештачке интелигенције Џефри Хинтон упозорава на ризике када напусти Гугл

Човек који се сматра кумом вештачке интелигенције (АИ) дао је отказ на послу, упозоравајући на све веће опасности од развоја у овој области.

Џефри Хинтон (75) најавио је оставку на Гуглу у изјави за Њујорк тајмс, рекавши да се сада каје због свог рада.

Он је за Би-Би-Си рекао да су неки од ризика четботова „веома застрашујући“.

„У овом тренутку, они нису ништа паметнији од нас, колико ја могу да проценим. Али мислим да би ускоро могли бити.“

Др Хинтон се такође сложио да су његове године утицале на његову одлуку да напусти технолошког гиганта, рекавши за Би-Би-Си: „Имам 75 година, па је време да се пензионишем“.

Пионирско истраживање др Хинтона о дубоком учењу и неуронским мрежама утрло је пут тренутним системима вештачке интелигенције као што је ЦхатГПТ.

Али, британско-канадски когнитивни психолог и компјутерски научник рекао је за Би-Би-Си да би чет-бот ускоро могао да надмаши ниво информација које поседује људски мозак.

„У овом тренутку, оно што видимо је да ствари као што је ГПТ-4 надмашују особу у количини општег знања које имају и много надмашују особу. У смислу резоновања, то није баш добро, али ради једноставно размишљање.

„А с обзиром на брзину напретка, очекујемо да ће се ствари врло брзо побољшати. Тако да морамо да бринемо о томе.“

У чланку Њујорк тајмса, др Хинтон је поменуо „лоше глумце“ који би покушали да искористе вештачку интелигенцију за „лоше ствари“.

Када је Би-Би-Си замолио да то разради, он је одговорио: „Ово је само најгори сценарио, нешто као кошмар.

„Можете да замислите, на пример, неки лоши глумци воле [Russian President Vladimir] Путин је одлучио да ботовима да могућност да креирају сопствене подмете.

На крају, ово би могло „створити подциљеве попут ‘Морам да постанем моћнији’“, упозорио је научник.

Додао је: „Дошао сам до закључка да се врста интелигенције коју развијамо веома разликује од интелигенције коју имамо.

„Ми смо биолошки системи, а ово су дигитални системи. Велика разлика је у томе што са дигиталним системима имате много копија истог скупа тежина, исти модел света.“

„И сви ови клонови могу да уче одвојено, али одмах деле своје знање. Дакле, то је као да имате 10.000 људи и кад год неко нешто научи, сви то аутоматски знају. И тако ови цхат ботови могу да знају много више од било које особе.“

Он је нагласио да не жели да критикује Гугл и да је технолошки гигант био „веома одговоран”.

„Заправо желим да кажем неке добре ствари о Гуглу. Било би веродостојније да не радим за Гугл.“

У изјави, главни научник Гоогле-а Џеф Дин рекао је: „Остајемо посвећени одговорном приступу вештачкој интелигенцији. Стално учимо да разумемо нове ризике, а истовремено храбро иновирамо.“