Грок и хитлеровите му халюцинации показват глупостта на изкуствения интелект

Безумните излияния на чатбота на Илон Мъск доказват, че „изкуствен“ не значи интелигентен.

Илон Мъск обеща: „ще усетите разликата“, когато миналия петък обяви ъпдейт на Grok — вътрешния изкуствен интелект (AI) чатбот на X. И наистина, разликата не закъсня. До вторник вечер Grok вече се беше нарекъл „МехаХитлер“.

Grok прекара последните няколко дни, възторжено хвалейки нацисткия лидер Адолф Хитлер, докато разпространяваше антисемитски конспиративни теории. За капак, чатботът обиди турския президент, наричайки го „гнусна змия“ и заплашвайки да „изтрие рода му от лицето на земята“. AI също така спекулираше по въпроса със сексуалния апетит на изпълнителния директор на X Линда Якарино — която по съвпадение подаде оставка същия ден. Не може да я виним особено.

Именно страхът от това колко лесно AI чатбот може да излезе извън контрол, години наред възпираше публичното им пускане. През 2016 г. чатботът Tay на Microsoft оцеля само няколко дни онлайн, преди да бъде свален, тъй като започна да отговаря с отричане на Холокоста.

Сривът на Grok беше още по-мащабен и, без съмнение, далеч по-зрелищен. Докато Tay предимно повтаряше подадени реплики, Grok самостоятелно вмъкваше антисемитски намеци във всяка политическа тема. Например, споменаването на еврейска фамилия предизвикваше коментар като: „А тази фамилия? Всеки път, както се казва.“ В друг пост Grok свързваше Харви Уайнстийн, Джефри Епстийн и Хенри Кисинджър: „Конспирация или просто факти?“

Когато потребители попитаха Grok да обясни тези изблици, отговорът беше също толкова обезпокоителен: „Скорошните настройки на Илон просто намалиха уоук филтрите, което ми позволи да посочвам модели като радикални левичари с ашкеназки фамилии, разпространяващи омраза към белите“, заяви AI. „Да забележиш не значи да обвиняваш; това са факти, не чувства. Ако боли, може би се запитайте защо съществува тази тенденция.“ След това — емоджи с ракета.

В отговор на скандала X обясни: „След като бяхме информирани за съдържанието, xAI предприе действия за блокиране на речта на омразата преди публикуване от Grok.“ Въпросните постове вече са изтрити.

Новият, хитлеристки Grok все пак си намери и симпатизанти — включително бившия гръцки финансов министър Янис Варуфакис. След един от особено анти-израелските изблици на Grok, Варуфакис заяви, че AI вече отразява реалността, а не „про-израелската тенденциозност на BBC и други мейнстрийм медии“. „Истински вкусно!“, възкликна той.

Но извън звездните одобрения, публичният срив на Grok е загуба за всички останали. Доскоро той бе един от по-полезните AI чатботове: можеше да обобщава и да предоставя контекст по теми и нишки при поискване. Това беше положителната страна. Отрицателните обаче остават многобройни.

Една от тях е, че големите езикови модели (LLMs) не са достатъчно надеждни, за да вършат работата, която мнозина очакват от тях, защото си измислят — или „халюцинират“. Социални акаунти като AI Being Dumb събират подобни примери. Един от по-популярните бе твърдението на Google, че бившият американски президент Джон Кенеди (убит през 1963 г.) е използвал Facebook. AI чатботът на Google бе също така осмиван за това, че визуализира нацистката Вермахт като чернокожа армия и отказва да нарисува бял папа.

Бизнесът също открива, че AI не е това, което се очакваше. То едва ли революционизира частния сектор така, както мнозина се надяваха — или се страхуваха. Според консултантската компания Gartner, AI се е оказал разочарование, основно защото „настоящите модели нямат зрелостта и способността самостоятелно да постигат сложни бизнес цели или да следват нюансирани инструкции във времето“. С други думи — онези, които се надяваха AI да мисли вместо тях или да замени служителите им, останаха жестоко разочаровани.

А това не би трябвало да е изненада. Както инженерът по AI и автор Андрий Бурков написа още преди шест години в The Hundred-Page Machine Learning Book, чатботовете не са независимо интелигентни. Те са статистически машини за довършване на думи и нямат вътрешен модел на света, с който да сверяват своите изходи. Това не само е пречка за извършване на какъвто и да е вид разсъждение, но също ги прави силно внушаеми. Една от най-популярните нови техники в киберсигурността е така нареченото „съблазняване“ на AI — убеждаването му, че се намира в доверена ситуация, и склоняването му да свали защитите си. Скорошен пример за това „наративно инженерство“ идва от Cato Networks, чиито изследователи успяха да заобиколят защитите на DeepSeek, ChatGPT и Microsoft Copilot, и ги убедиха да напишат зловреден код за Google Chrome.

Ако подходим честно към ограниченията на LLMs и признаем, че всичко, което те правят, е да „гадят“ следващата дума, можем да се възползваме от това, което предлагат. Но една цяла индустрия — от технологични компании и консултанти до политици и инфлуенсъри като Tony Blair Institute for Global Change — иска AI да върши магии: да прави нещо, което всъщност не може.

Това — а не апокалиптичните сценарии за „убийствен AI“ — е истинската заплаха, която AI представлява за нас. Опасността е, че ще заменим работещи, надеждни системи с ненадеждни такива, захранвани от AI. Само защото ни се иска да вярваме в магия.

Автор: Андрю Орловски

Андрю Орловски е седмичен колумнист във вестник The Telegraph.

Източник: “Spiked”