Зашто је Џефри Хинтон одлучио да треба да „дува у звиждаљку“ о технологији

Њујорк (ЦНН) Џефри Хинтон, такође познат као „Кум вештачке интелигенцијеОдлучио је да мора да „дува у пиштаљку“ о технологији којој је помогао да се развије након што се бринуо колико је паметна, рекао је за ЦНН у уторак.

„Ја сам само научник који одједном схвата да ове ствари постају паметније од нас“, рекао је Хинтон дописнику ЦНН-а Џејку Таперу у интервјуу у уторак. „Желим да мало зазвиждим и кажем да би требало да будемо озбиљно забринути како да спречимо да нас ове ствари преузму.

Хинтонов пионирски рад на неуронским мрежама обликује системе вештачке интелигенције који покрећу многе данашње производе. У понедељак је дошао на насловне стране јер је напустио своју позицију у Гуглу, где је радио деценију, како би искрено говорио о својој све већој забринутости око технологије.

У интервјуу у понедељак са Тхе Нев Иорк ТимесХинтон, који је први пријавио свој потез, рекао је да брине о способности вештачке интелигенције да елиминише послове и створи свет у коме „многи више неће моћи да кажу шта је исправно“. Такође је приметио запањујући темпо напретка, који је далеко изнад онога што су он и други очекивали.

„Када би постало паметније од нас, било би веома добро у манипулацији јер би то научило од нас, а врло је мало примера да нешто интелигентније контролише нешто мање интелигентно“, рекао је Хинтон Таперу. уторак.

„Она зна како да кодира, па ће смислити начине да заобиђе ограничења која јој постављамо. Смислиће начине да манипулише људима да раде оно што желе.“

Хинтон није једини технолошки лидер који је отворено говорио о својој забринутости за АИ. Један број чланова заједнице потписао је а поруку у марту Тражећи АИ лабораторије да престану да обучавају најмоћније системе вештачке интелигенције на најмање шест месеци, наводећи „дубоке ризике за друштво и човечанство“.

порука, објављено Из Института за будућност живота, непрофитне организације Подржан Елон Муск, само две недеље након ОпенАИ објавити ГПТ-4, моћнија верзија вирусне цхатбот технологије која подржава ЦхатГПТ. У раним тестовима и демонстрацији компаније, ГПТ-4 је коришћен за израду тужби, полагање стандардизованих тестова и прављење веб странице која ради на основу ручно нацртане скице.

Суоснивач Аппле-а Стив Вознијак, који је био један од потписника писма, појавио се у уторак на „ЦНН-у јутрос“, изражавајући забринутост због његове способности да шири дезинформације.

Превара ће бити много лакша за оне који желе да вас преваре“, рекао је Вознијак за Си-Ен-Ен. „Не правимо никакве промене у том погледу – само претпостављамо да ће се за то побринути закони које имамо.

Вознијак је такође рекао да би можда била потребна „нека врста организације“.

Са своје стране, Хинтон је рекао за ЦНН да није потписао петицију. „Мислим да не можемо да зауставимо напредак“, рекао је он. „Нисам потписао петицију у којој је речено да треба да престанемо да радимо на вештачкој интелигенцији, јер ако људи у Америци престану, људи у Кини неће.

Али он је признао да нема јасног одговора шта да се ради уместо тога.

„Није ми јасно да можемо да решимо овај проблем“, рекао је Хинтон Таперу. „Мислим да морамо да уложимо много труда да смислимо начине да решимо проблем. Тренутно немам решење.“