Слацк корисници су ужаснути када открију поруке које се користе за обуку вештачке интелигенције

после издање Слацк АИ У фебруару се чини да Слацк копа своје ноге и брани своју мистичност Полици Који подразумевано усисава податке о клијентима — укључујући поруке, садржај и датотеке — да би тренирао Слацк-ове АИ моделе светске класе.

Према Слацк инжењеру Аарон Мауреробјаснио је Слацк у а Блог Услуга ћаскања у власништву Салесфорцеа не обучава велике језичке моделе (ЛЛМ) на подацима о клијентима. Али Слацк-ова политика ће можда морати да се ажурира да би „пажљивије објаснила како ће ови принципи приватности функционисати са Слацк АИ“, написао је Маурер на Тхреадс-у, делимично зато што је политика „првобитно написана око посла претраге/препоруке који смо радили годинама пре Слацка“. Амнести интернешенел.”

Маурер је одговарао на теме Пошта Од инжењера и писца Гергелија Ороса, који је позвао компаније да одустану од дељења података док политика не буде разјашњена, не путем блога, већ на језику стварне политике.

„Један инжењер МЛ-а у Слацку каже да не користе поруке за обуку ЛЛМ модела“, написао је Орос. „Мој одговор је да им тренутни услови то дозвољавају. Мислим да је то политика када сте у политици. А пост на блогу није политика приватности: свака озбиљна компанија то зна.“

Напетост за кориснике постаје још очигледнија ако упоредите Слацкове принципе приватности са начином на који компанија промовише Слацк АИ.

Слацк-ови принципи приватности посебно наводе: „Машинско учење (МЛ) и вештачка интелигенција (АИ) су корисни алати које користимо на ограничене начине да унапредимо мисију нашег производа. Да бисмо развили АИ/МЛ моделе, наши системи анализирају податке о клијентима (као што је нпр. поруке, садржај, датотеке) достављене Слацк-у, као и друге информације (укључујући информације о коришћењу) како је дефинисано у нашој политици приватности и у вашем Уговору са клијентима.”

док, Слацк АИ страница „Радите без бриге“, ​​каже он, „Ваши подаци су ваши подаци. Не користимо их за обуку Слацк АИ.“

Због ове неслагања, корисници су позвали Слацк да ажурира своје принципе приватности како би разјаснио како ће се подаци користити за Слацк АИ или било која будућа ажурирања АИ. Према портпаролу Салесфорцеа, компанија се сложила да је ажурирање потребно.

„Јуче су неки чланови заједнице Слацк тражили више јасноће у вези са нашим принципима приватности“, рекао је портпарол Салесфорцеа за Арс. „Данас ћемо ажурирати ове принципе како бисмо боље објаснили однос између података о клијентима и генеративне АИ у Слацк-у.

Портпарол је рекао Арсу да ће ажурирање политике разјаснити да Слацк не „развија ЛЛМ или друге генеративне моделе користећи податке о клијентима“, „користи податке корисника за обуку ЛЛМ-а трећих страна“ или „изгради или обучи ове моделе на такав начин да они могу да уче, памте или буду у стању да репродукују податке о клијентима.” Ажурирање ће такође појаснити да „Слацк АИ користи готове ЛЛМ-ове где модели не задржавају податке о клијентима“, обезбеђујући да „подаци о клијентима никада не напуштају Слацкове границе поверења и да ЛЛМ провајдери никада немају приступ подацима о клијентима“.

Међутим, изгледа да ове промене не решавају кључну забринутост за кориснике који никада нису експлицитно пристали да деле ћаскање и други Слацк садржај за коришћење у обуци вештачке интелигенције.

Корисници одлучују да не деле ћаскање са Слацк-ом

Ова контроверзна политика није нова. Виред на опрез Објављено у априлу, ТецхЦрунцх поменути Политика је на снази најмање од септембра 2023.

Али широко распрострањена реакција почела је да расте синоћ Пирате Невс, где су Слацк корисници критиковали услугу ћаскања јер очигледно није успела да обавести кориснике о промени политике, уместо тога их је тихо омогућила подразумевано. Критичари су сматрали да нема смисла бирати било кога осим Слацка.

Одатле, реакција се прелила на друштвене медије, где је СлацкХК брзо разјаснио Слацк-ову терминологију уз објашњења која као да нису одговорила на све критике.

„Жао ми је Слацк, шта радиш са корисничким ДМ-овима, порукама, датотекама итд?“ Цореи Куинн, главни економиста у облаку у компанији за управљање трошковима Дуцкбилл Гроуп, објави На Кс. „Сигуран сам да ово не читам исправно.“

СлацкХК Он је одговорио Квину након што је економиста изјавио: „Толико мрзим ово“ и потврдио да је одустао од дељења података у свом плаћеном радном простору.

„Да појаснимо, Слацк има моделе машинског учења на нивоу платформе за ствари попут препорука канала, емоџија и резултата претраге“, објавио је СлацкХК. „И да, клијенти могу да искључе своје податке из помоћи у обуци (негенеративних) модела машинског учења. Подаци о клијентима припадају Слацк АИ – нашем генеративном АИ искуству првобитно изграђеном у Слацк-у.[and] „То је посебно купљен додатак који користи моделе великих језика (ЛЛМ), али не обучава те ЛЛМ на подацима о клијентима.“