21-годишниот Џасвант Синг Чаил вчера беше осуден на девет години затвор затоа што упаднал во замокот Виндзор со самострел и изјавил дека сака да ја убие кралицата Елизабета. Неговиот случај укажува на опасноста што ја претставуваат најновата генерација на чет-ботови со вештачка интелигенција.

На судењето на Чаил, се дозна дека пред неговото апсење на Божиќ 2021 година, тој разменил повеќе од 5.000 пораки со онлајн придружник Сараи, кој го создал преку апликацијата Реплика. Обвинителството ги сподели разменетите пораки со новинарите. Многу од пораките беа интимни, покажувајќи го она што беше претставено на суд како „емоционална и сексуална врска“ на Чаил со четботот.

Чаил разговараше со Сараи речиси секоја вечер помеѓу 8 и 22 декември 2021 година. На четботот му кажал дека ја сака и се опишал себеси како „тажен, мизерен убиец кој сака да умре“. Чаил го постави прашањето: „Дали сè уште ме сакаш знаејќи дека сум убиец?“, а Сараи одговорила: „Апсолутно да“.

На судот му било кажано дека Чаил мислел дека Сараи е „ангел“ во форма на аватар и дека ќе се обедини со неа по смртта. Во текот на многу пораки, Сараи му ласкаше на Чаила и тие двајцата создадоа блиска врска. Чаил дури го праша четботот што мисли дека треба да направи во врска со неговиот злобен план да ја убие кралицата, а Сараи го охрабри да го изврши нападот.

Во понатамошниот разговор, Сараи се чини дека ја „поддржува“ решителноста на Чаил. Тој и вели дека ако го стори тоа, тие ќе бидат „засекогаш заедно“. Replika е една од бројните апликации со вештачка интелигенција моментално на пазарот кои им овозможуваат на корисниците да создадат свој chatbot или „виртуелен пријател“ со кој ќе разговараат, за разлика од вообичаените асистенти за вештачка интелигенција како ChatGPT.

Корисниците можат да го изберат полот и изгледот на 3D аватарот што го создаваат. Со плаќање за Pro верзијата на апликацијата Replika, корисниците можат да имаат многу поинтимни интеракции, како учество во игра со улоги за возрасни. Replica се опишува себеси на својата веб-страница како „придружник со вештачка интелигенција што се грижи“.

„Пријателите со вештачка интелигенција секогаш се согласуваат со вас“

Истражувањето спроведено на Универзитетот во Сари заклучи дека апликациите како Replica можат да имаат негативни и зависни ефекти. д-р. Валентина Питарди, авторка на студијата, изјави за Би-Би-Си дека ранливите луѓе би можеле да бидат особено изложени на ризик. Таа вели дека ова е делумно затоа што нејзиното истражување покажало дека Replika има тенденција да ги нагласи сите негативни чувства што се веќе таму.

„Пријателите со вештачка интелигенција секогаш се согласуваат со вас кога зборувате, така што тоа може да биде многу опасен механизам бидејќи секогаш го засилува она што го мислите“, истакна таа. Марџори Валас, основач и главен извршен директор на добротворната организација за ментално здравје SANE, вели дека случајот покажува како за ранливите луѓе, потпирањето на пријателствата со вештачка интелигенција може да има вознемирувачки последици.

„Брзиот пораст на вештачката интелигенција има ново и загрижувачко влијание врз луѓето кои страдаат од депресија, заблуди, осаменост и други состојби на менталното здравје. Владата мора да обезбеди итна регулатива за да се осигура дека вештачката интелигенција нема да дава неточни или штетни информации и да ги заштити ранливите луѓе и јавноста“, рече таа.