Американскиот Департман за војна, предводен од секретарот Пит Хегсет, направи исклучителен преседан со барањето компаниите за вештачка интелигенција да ги отстранат безбедносните механизми на нивните јазични модели (LLMs) кои се применуваат во програмите за одбрана и во начинот на кој се планира и извршува војувањето под водство на Пентагон.

Тргањето на „кочниците“ од моделите може да воведе нова ера на вооружување на вештачката интелигенција. Компанијата „Антропик“, која досега беше фаворит на Пентагон, се соочува со можни санкции од ранг на оние што Администрацијата на САД ги користи за казнување или ограничување на технолошките компании од Кина.

„Антропик“, иако е американска компанија со седиште во Сан Франциско, може да биде додадена на оваа „црна листа“ како закана во синџирот на снабдување на одбранбениот сектор на САД, доколку не ги прифати сите барања поставени од секретарот Хегсет.

Од етика до егзистенцијален ризик

Местото на „Антропик“ најверојатно ќе го замени компанијата за вештачка интелигенција „хАИ“ на Илон Маск, кој има многу „покомотен“ пристап во однос на регулацијата на технологијата за „секоја законска употреба“ во воениот сектор.

Маск беше еден од иницијаторите на „ОпенАИ“, стартапот кој требаше отворено да ја развива вештачката интелигенција. Потоа Маск ја напушти компанијата за да ја создаде „хАИ“, додека неговите поранешни колеги, кои не се согласуваа со визијата на претходните компании, решија да ја формираат „Антропик“ како одговор на потребата за етичко и доверливо управување со развојот на вештачката интелигенција.

Ниту „Антропик“ не успеа целосно да ги избегне контроверзиите, бидејќи токму тие се соочија со критики за „дистилирање“ на поголеми модели. При овој процес се тренираат модели со помал капацитет, при што се пренесуваат дел од можностите и се намалуваат трошоците, но токму поради поограничените ресурси, претходно утврдените безбедносни мерки на поголемиот модел се „губат“ кај помалиот. Со тоа се отвора огромен простор за злоупотреби и неетичко користење на можностите на технологијата.

Сега, „Антропик“ одбива да се потчини на барањата на секретарот за војна Пит Хегсет поради стравувањата дека јазичните модели како „Клод“ би можеле да се применуваат без никакви етички бариери.

Закана од непредвидлива ВИ трка за вооружување

Дел од можните последици се масовно следење, вклучувајќи ги и граѓаните на САД, како и игнорирање на одредени правила на војување. Постои ризик вештачката интелигенција да прифати високо ниво на колатерална штета само за по секоја цена да ја исполни својата цел – на пример, уништување непријателска мета. Тука е и опасноста од заобиколување на човечкиот фактор при носењето одлуки, што може да предизвика длабоки морални, етички и правни проблеми.

Дури и САД да го оствари својот план за брз технолошки развој во одбраната, напуштањето на системите за доверба дава сигнал до конкурентите како Кина и Русија да го направат истото, создавајќи неизвесна и опасна трка за вооружување.

Во тој контекст, европските сојузници, особено земјите членки на НАТО, се принудени да го преиспитаат ова партнерство кое создава расчекор во начинот на примена на технологијата. Европа останува насочена кон поголема регулација и ограничувања поставени во Европскиот акт за ВИ, што може да доведе до барање алтернативни решенија за европската одбрана.