Вештачка интелигенција је владање језиком. Да ли треба да верујемо ономе што каже?

„Мислим да нам то омогућава да будемо пажљивији и више размишљамо о безбедносним питањима“, каже Алтман. „Део наше стратегије је: постепена промена у свету је боља од изненадне промене. Или, како је рекла потпредседница ОпенАИ Мира Морати, када сам је питала о раду безбедносног тима који ограничава отворен приступ софтверу, „Ако ћемо научити како да применимо ове моћне технологије, хајде да почнемо када су улози веома мали .”

Док сам ГПТ-3 Покрећући 285.000 ЦПУ језгара у суперкомпјутерском кластеру у Ајови, ОпенАИ ради ван подручја мисије у Сан Франциску, у реновираној фабрици пртљага. У новембру прошле године тамо сам срео Иљу Сотскефера, покушавајући да добијем лаичко објашњење како ГПТ-3 заиста функционише.

„То је основна идеја ГПТ-3“, рече Сотскевер напето, нагињући се напред у својој столици. Има занимљив начин одговарања на питања: неки лажни почетак – „Могу да вам дам опис који се отприлике поклапа са описом који сте тражили“ – прекинут дугим медитативним паузама, као да црта цео одговор у току.

На крају је рекао: „Основна идеја ГПТ-3 је начин повезивања интуитивног појма разумевања са нечим што се може механички измерити и разумети, а то је задатак предвиђања следеће речи у тексту. Други облици вештачке интелигенције покушавају да кодирају информације о свету: шаховске стратегије великих мајстора, принципи климатологије. Али ГПТ-3 интелигенција, ако је интелигенција реч за то, долази одоздо према горе: преко елементарног глагола предвидети следећу реч. За обуку ГПТ-3, моделу се даје „податак“ — неколико реченица или пасуса текста из новинског чланка, на пример, или романа или научног рада — а затим се тражи да предложи листу могућих речи које би може завршити низ, поредан по вероватноћи. У раним фазама обуке, предложене речи су бесмислице. Питајте алгоритам реченицом попут „Писац је избрисао последњу реч из прве речи…”” и нагађања би била нека врста низа бесмислица: листа – појављује се тачна реч која недостаје: „параграф.” Затим програм јача и слаби све насумичне неуронске везе које генеришу ту одређену сугестију. Све везе које су генерисале погрешна нагађања. Затим прелази на следећи рутер. Временом, са довољно итерација, програм учи.

Још у јануару, ОпенАИ је додао функцију која омогућава корисницима да дају директна упутства за ГПТ-3 као промпт, уместо да само захтевају да прошире део узорка текста. На пример, користећи режим помоћи, ГПТ-3 је једном добио упит: „Напишите есеј о улози метафикције у делу Итала Калвина.“ Кратак пасус који је почео овако:

Италијански писац Итало Калвино сматра се стручњаком за метафикцију, врсту писања у којој аутор разбија четврти зид да би разговарао о самом чину писања. За Калвина, метафикција је начин истраживања природе стварности и начина на који приче могу обликовати наше перцепције света. Његови романи често укључују разигране структуре и лавиринте који манипулишу границама између стварности и фантазије. У случају да је путник у зимској ноћи, на пример, читаоца стално прекидају дискусије на метанивоу чина читања и природе приповедања. . . .

Можете дати ГПТ-3 потпуно исти упит, изнова и изнова, и сваки пут ће генерисати јединствен одговор, неки убедљивији од других, али скоро сви изузетно јасни. Индикативни упити могу имати различите облике: „Дај ми списак свих састојака болоњез соса“, „Напиши песму о француском приморском селу у стилу Џона Ешберија“, „Објасни Велики прасак на језику који је 8-годишњи -стари разуме.“ У неким тренуцима Првих неколико које сам хранио ГПТ-3 стимулансима ове врсте, осетио сам праве најеживости како ми пролазе низ кичму. Чинило се готово немогућим да машина генерише тако јасан и брз текст у потпуности заснован на почетној обуци за предвиђање следећа реч.

Али вештачка интелигенција има дугу историју стварања илузије интелигенције или разумевања без стварне испоруке робе. ат папир о коме се много расправљало Објављено прошле године, професорка лингвистике Универзитета у Вашингтону Емили Бендер, бивши Гоогле истраживач Тимнит Гебру и група коаутора изјавили су да су велики језички модели само ‘насумични папагаји’: то јест, програм је користио рандомизацију само за ремиксовање реченица које је написао људи.. Бендер ми је недавно рекао путем е-поште: „Оно што се променило није корак изнад одређеног прага ка ‘вештачкој интелигенцији’. Уместо тога, рекла је, оно што се променило су ‘хардвер, софтвер и економске иновације које омогућавају акумулацију и обраду огромних скупови података’ — као и култура Технологија коју „могу имати људи који граде и продају такве ствари“ је далеко од тога да је гради на темељима нетачних података.“