„Ефективно убрзање“ не брине да ли ће људе заменити вештачка интелигенција

• Активни акцелератори, најпро-АИ фракција у технологији, добијају на замаху.
• Покрет подржава раст и развој вештачке интелигенције – и профит – без препрека или регулације.
• Заговорници верују да би напредак у вештачкој интелигенцији могао да доведе до „следеће еволуције свести“.

Ефикасно кретање убрзања – А Снажно про-АИ идеологија која је поделила Силицијумску долину око тога како да регулише вештачку интелигенцију – чини се да је на ивици између техно-либертаријанске филозофије и нихилистичког, чак и непромишљеног, приступа развоју једног од најважнијих светских технолошких достигнућа.

Док њени јавни присталице, као што је Гери Тан, извршни директор стартап акцелератора И Цомбинатор и бивши суоснивач компаније ризичног капитала Енаблед Цапитал, Он инсистира Бити „е/ацц“ не значи заменити људе роботима, то није баш тако не О замени човека роботима.

Дебата о филозофији ефикасног алтруизма, или „ЕА“, коју промовишу технолошки утицајни људи као што су Сем Банкман Фрид и Елон Муске/ацц је лансиран 2023. године, иако његово тачно порекло остаје нејасно. Покрет је привукао мноштво невјероватних личности, укључујући ризичног капиталисту Марка Андреесена и осуђеног преваранта Мартина Схкрелија.

„ЕА и е/ацц су углавном исти људи“, рекао је Емметт Схерр, бивши привремени извршни директор ОпенАИ-а у интервјуу за ЕА и е/ацц. географска дужина. „Једина разлика између њих је вредносни суд о томе да ли је елиминисање човечанства проблем или не.

Присталице Е/аццс (изговара се ее-иацкс) верују да је стварање АИ сингуларности, где технологија напредује изван тачке људске контроле, не само неизбежно, већ и пожељно – неопходан део еволуције изван човечанства.

А улагање у то би могло да значи много новца, јер електронски рачуни/електронски налози изазивају контроверзе и растуће интересовање за индустрију вештачке интелигенције, чији развој доноси снажне промене на тржишту. Голдман Сакс Генерисане процене АИ би могао повећати глобални БДП за 7 билиона долара, или 7%, у наредних десет година.

„Нема везе са биолошким људима.“

Пун жаргона веб сајт Ширење јеванђеља ефикасног убрзања описује „технолошки капиталистички напредак“ као неизбежан и хвали заговорнике сајбер закона као градитеље који „стварају будућност“.

„Уместо страха, верујемо у процес прилагођавања и желимо да га убрзамо до асимптотске границе: сингуларизације технолошког капитала“, наводи се на сајту. „Немамо никакве везе са биолошким људима, па чак ни са структуром људског ума. Ми смо трансхуманисти у смислу да препознајемо превласт виших облика акумулације слободне енергије над нижим облицима акумулације слободне енергије. Циљ нам је да убрзамо овај процес до задржати светлост технолошког капитала.”

У основи, господари вештачке интелигенције су неопходни за одржавање капитализма и морамо наставити да их стварамо брзо.

У првом блог посту на сајту, који су написали анонимни присталице е/ацц @зестулар, @цреатине_цицле, @баиеслорд и @БаседБеффЈезос – који Форбес Ово је касније потврдио Гијом Вердон, бивши Гоогле инжењер који је касније основао АИ стартуп Ектропиц – „још ништа нисмо видели“, рекао је.

Док е/аццс каже да не воле биолошке људе, они и даље описују своје кретање као „про-људско“ — али за њих је технологија та која ће спасити нас, а не нас саме.

Е/ацс генерално оклевају да се упуштају у озбиљнија питања о безбедносним питањима везаним за развој вештачке интелигенције. Као одговор на питања Бусинесс Инсидер-а, Схкрели на опрез Колеге заговорници акцелератора у посту на

Улагање у трансхуманистичку будућност

Учинити „смисао разноврснијим“, како наводи блог е/ацц, неизбежан је резултат развоја неограничене вештачке интелигенције. А посао цвета.

Тан је позициониран као један од највећих инвеститора у технологију, према листа семена Мидас Форбес, Кроз И Цомбинатор, инвестирао сам у више од… 100 различитих стартапа у области вештачке интелигенције.

Милијардер Андреесен, који је написао и пустио А Изјава од 5.000 речи Детаљно о ​​својој подршци за вештачку интелигенцију која се брзо развија, такође је уложила много у индустрију – укључујући ОпенАИ, по Форбес.

Шкрели, који је поред тога поносно написао „е/ацц“. корисничко име На Кс-у сам направио АИ компанију под називом др Гупта Након изласка из затвора под оптужбом за превару са хартијама од вредности. Услуга је „виртуелни здравствени помоћник“ који омогућава корисницима да потраже медицински савет од цхат бота. Био је то робот Оштре критике стручњакакоји је раније изразио забринутост због етике здравственог бота којег води неко ко је осуђен за превару.

Ектропиц АИ, Вердонов стартуп, недавно је прикупио 14,1 милиона долара у основном финансирању годишње Пост на блогу компаније. Објава почиње са оностраним преносом будућности „свеприсутног генеративног АИ“. Компанија развија микрочипове који напајају ЛЛМ (мислим на моделе типа ЦхатГПТ), према Информације.

Вердон је за Форбс рекао да је његова визија будућности технолошког капитала огромна инвестиција у решавање друштвених питања која притискају „културу“. То одражава слична осећања међу техничарима који верују да ће роботи и вештачка интелигенција учинити свет бољим местом – а истовремено ће их учинити веома богатим.

Дакле, моћ одлучивања о нашој будућности, кажу акцелератори, биће у рукама групе браће из Силицијумске долине који славе „Континуирана културна супериорност„Сви морају.

Противници кажу да је будућност мрачна.

„Иронија је у томе што ови људи чврсто верују да раде добар посао“, рекла је Ненси Конел, истраживач биобезбедности на Универзитету Рутгерс. ПОЛИТИЦО. „И то је заиста срцепарајуће.“

„То је као да мислите да веверице могу да контролишу човечанство.“

За е/аццс, свет је једноставан: АИ ће решити наше проблеме јер ми то желимо, и ми то програмирамо. Могућности су бескрајне, а на крају АИ дуге налази се јединственост која вреди више од злата.

Један јавни заговорник активног убрзања који је разговарао за Бусинесс Инсидер рекао је да покрет жели људе који могу да алоцирају капитал за е/ацц циљ и унапреде своје циљеве. Добио је анонимност да отворено говори о покрету без ризиковања својих професионалних односа, али је његов идентитет познат Бусинесс Инсајдеру.

Он је рекао да заговорници верују да ће инжењери улагати само у… Развој вештачке интелигенције Ово би користило људима, али стручњаци за безбедност вештачке интелигенције то не виде на тај начин; Експерти за сајбер безбедност су жестоко критиковали покрет е/ацц (један истраживач га је назвао „[бициберсецуритиекпертсОнересеарцхерцалледит“[منقبلخبراءالأمنالسيبرانيأطلقعليهأحدالباحثين“[bycybersecurityexpertsOneresearchercalledit“Опасна и неодговорна идеологија Инспирисан заменом човечанства вештачком интелигенцијом.“ Други је рекао да покрет „Нема друштвене визије„.

То је такође наиван начин размишљања о суперинтелигенцији, рекао је за Бусинесс Инсидер Роман Јампољски, директор Лабораторије за сајбер безбедност на Универзитету у Луисвилу.

„Нико, чак ни у е/ацц, не би сугерисао да имају ефикасан механизам контроле суперинтелигенције или чак прототип за њега“, рекао је Јампољски. „Зашто би неко помислио да је могуће бесконачно контролисати супер-интелигентну (богу) машину? То је као да мисли да веверице могу да контролишу човечанство.“

Јампољски покушава да упозори индустрију да би будућност мајстора вештачке интелигенције у које ови електронски налози покушавају брзо да уђу могла да буде веома лоша. Чак и застрашујуће. И боље је бити сигуран него жалити.

Упркос годинама истраживања, е/аццс и други који улажу у безбедност вештачке интелигенције могу да га виде као песимистичну пропаст — или, у е/ацц колоквијализму, „децел“. Али, како је Јампољски истакао за Бусинесс Инсидер, многи електронски уређаји/рачунари нису научници и нису истраживачи у области безбедности вештачке интелигенције. Ово је његова кормиларница, не њихова.

„Или ћемо стати, или ћемо сви умрети.“

Иако најсавременија вештачка интелигенција има потенцијал да помогне у скринингу рака, повећа доступност за особе са инвалидитетом, очува дивље животиње, бори се против глади у свету, па чак и да помогне у климатској кризи, критичари е/ацц покрета тврде да ће тренутна практична примена ове технологије постати… Није одмах релевантно ако АИ почне да размишља својом главом и поставља сопствене циљеве за добробит човечанства, а да је људи не контролишу.

Али док е/аццс настоји да оспори упозорења истраживача безбедности, шта је са нама осталима?

Е/ацс жели да радикално преобликује друштво, промени начин на који радимо и комуницирамо, и редефинише шта значи бити жив, али шира јавност нема много речи о вештачкој интелигенцији — нити довољно новца да има глас.

Јампољски је рекао да је пажња коју је овај покрет добио међу богатим људима забрињавајућа и „још више забрињавајућа ако боље погледате; схватите да ови људи не представљају човечанство, не представљају наша уверења и вредности, и сами се не уклапају у вредности“. Људи“.

Његова визија је дијаметрално супротна оној е/аццс: зауставити развој вештачке интелигенције.

„Или ћемо стати пре него што дођемо до надљудске вештачке интелигенције, или ћемо сви умрети. „Опасне експерименте не треба спроводити на 8 милијарди људи.