Имате бизнис идеја, работите со ChatGPT или друг ВИ сервис, развивате апликација и сметате дека програмирањето не било никогаш полесно, додека самиот сервис во прави лого, брендирање и комуникациски план. Звучи речиси совршено, но постои огромна опасност од тоа како големите јазични модели (LLMs) ги користат вашите деловни податоци. Често компаниите преку нивните вработени прикачуваат цели документи, извештаи, фактури, интерна комуникација и чувствителни податоци кои потоа може лесно да се злоупотребат.

„Постои група на бизниси кои според мене погрешно ги користат овие технологии и одат во крајност, каде подоцна се соочуваат со класичниот проблем на зависност - премногу пристап, доверба и приватност им доделуваат на ВИ технологиите“, смета Драган Илиевски експерт за сајбер-безбедност кој разви бесплатна алатка за заштита на приватноста при користење на ВИ алатките од големите јазични модели. 

Која е опасноста од користење на ВИ моделите за развој на бизнис идеи, па дури и целосно водење на деловното работење преку овие апликации, колку се изложени професионалците и бизнисмените на ризик од злоупотреба на нивните податоци и нивно користење за понатамошно тренирање на моделите, до кои пристап ќе имаат сите корисници?

Илиевски: Засега сметам дека гигантите како OpenAI, Anthropic, Google итн. со своите модели ChatGPT, Claude, Gemini се обидуваат да го следат светскиот интерес и потребите на бизнисите за да ги адаптираат своите сервиси да бидат „неодоливи“ зад претплати кои изгледаат привлечно за бизнисите. 

Исто така, спроведуваат дополнително истражување на техники за долгорочна заработка и стратегиите се спроведуваат елегантно на светско ниво, затоа што нивното процесирање (inference) е скапа инвестиција за нив и секако таа инвестиција сакаат да им се врати. Сето ова се случува премногу брзо што ги прави бизнисите како нивни корисници исто така да чувствуваат индиректен притисок од адаптирањето на ВИ технологиите во нивните процеси.

Од досегашните искуства што сум ги имал со моите клиенти во последните година дена, забележувам еден позитивен тренд дека ВИ технологиите сѐ повеќе се прифаќаат и се користат во бизнис аспектите (и тоа е добро), особено за продуцирање на концептуални решенија (proof of concept) и опипливи бизнис идеи. Тоа секако вродува со продуктивност на компанијата и оптимизација на времето и финансиите. 

Стартапите со тој Agentic начин на работа произведуваат целосни продукти и сервиси „само со еден vibe-coded prompt“ што резултира да бидат целосно зависни од самиот вендор.  Може и „не го разбираат сопствениот код“, а истовремено споделувајќи ги своите деловни тајни и идни планови, а правно тие ја носат одговорноста. Како експерт за сајбер безбедност, според мене ова е „замка“ која вендорите стратешки ја прават за да си обезбедат долгорочно користење, а бизнисите оваа замка ја сфаќаат дури подоцна.

Иако постои разлика од основните бесплатни модели и нивните претплатнички верзии кои можеби гарантираат повисок степен на заштита на приватноста и различен пристап до внесените податоци, документи и историјат на разговори, сепак и таму постои ризик од едноставно недоволно внимание на самите бизнис корисници и недоволна информираност за начинот на кој апликациите на вештачката интелигенција располагаат со нивните податоци. Постои ли потреба од градација на различните претплатнички модели или тоа едноставно не е одржливо бизнис решение со оглед на честите промени во условите на користење кои ги наметнуваат самите технолошки гиганти?

Илиевски: Да, и јас сметам дека од безбедносен аспект има разлика со претплатените планови (воглавно заштитата е правна и постои техничка изолација на информациите), но мора да разбереме дека многу од овие модели ја споделуваат информацијата да биде процесирана и со други third-party сервиси и компании кои читаат што пишуваме за да го подобруваат моделот и сива е границата како е сето ова регулирано - а ние како корисници сме ставени во ситуација да или ги прифаќаме условите на користење додека сме во претплатата или да запреме со користење на сервисот. 

Неколку од моите клиенти беа афектирани баш на овој начин, каде промената на услови ја менува исплатливоста на користењето на сервисот, или едноставно бара од корисниците да престанат да го користат сервисот додека сѐ уште имаат зависност од вендорот. 

Баш заради тоа што се појави потреба да се обезбеди нов начин на на независна заштита од правилата на вендорите, го изработивме продуктот PrivaLLM кој има улога да на „филтер“ меѓу секој вендор и корисникот и да го контролира протокот на информации, а со поставените правила да одлучува кои од нив да ги направи анонимни  и кога не треба да се изложат.

Комерцијалната верзија од продуктот е сѐ уште во изработка но, за скоро ќе биде достапна, каде компаниите ќе можат да го инсталираат во својата инфраструктура локално за целосно да ги заштитат деловните и приватните информации кои ќе бидат заменети со генерички, и на тој начин бизнисот сѐ уште ќе може да го користи ВИ вендорот без да ја изложи својата приватност.

Постои ли можност за локално користење на јазични ВИ модели за развој на бизнис идеи и решенија, и кои се главните ризици кај овие алатки, дали претпоставката дека нивното локално работење со ресурсите на бизисните е доволно за заштита на деловните податоци и чувствителните документи?

Илиевски: Дефинитивно постои и таква можност и најчесто тоа и е моето предложено решение кај повеќето клиенти што имаат многу чувствителни документи. Сепак, оваа одлука повлекува да се направат и други одлуки околу кој модел да се одбере, на каква инфраструктура да се инсталира (затоа што почетниот влог е поголем) и на кој начин да се користи. Често пати бизнисите започнуваат да ги истражуваат опциите на страната huggingface.co и потоа го тестираат решението со Ollama Server.

Од искуството со клиентите обично најисплатливо им било да користат  хибриден метод, т.е да имаат in-house решение за генерално користење, но за конкретни ситуации да се користи напреден модел од вендор надворешно. Заедно во комбинација тие можат долгорочно да донесат оптимален квалитет и приватност за бизнисот.

Кои се понапредни решенија за заштита на приватноста, пред се од бизнис аспект, при комуникација со јазичните модели, како стартап основачите и претприемачите од самиот почеток да ја „вградат“ сајбер безбедноста во нивниот бизнис модел и начин на функционирање, за да не се доведат во опасност нивните идеи, документи и доверливи податоци да завршат во големите ВИ машини, кои потоа може да ги искористи конкуренцијата или други злонамерни актери?

Илиевски: Покрај PrivaLLM како комерцијално решение, можеби постојат и неколку вакви помали алатки кои се изработени од ентузијасти во заедницата на отворен код, како што е алатката Presidio но, овие решенија бараат техничко познавање и интеграција во код со самиот стартап. Сметам дека сѐ уште нема многу комплетни решенија кои елегантно го адресираат овој проблем, а од класичните решенија заштитата е недоволна и не-ефикасна.

Вистинскиот ризик е голем затоа што во меѓувреме многу од корисниците си ја даваат својата приватност и деловни тајни дури и во бесплатните претплати каде правно самиот вендор се има оградено дека секоја комуникација може да биде надгледувана од вработен модератор кој може да означи одредени информации за подобрување на моделот. Дури и во подесувањата да имаме одбрано да не се користи нашата информација за пре-тренирање на моделот, во бесплатните претплати со самото користење ги прифаќаме условите дека нема гаранција за заштита на нашите информации. Во ставките за користење на секој LLM модел стои порака дека можно е да згреши, што индиректно ја префрла одговорноста на корисникот / бизнисот за проверката на информации.

Затоа, кога со клиентите соработуваме на некои проекти, имам тенденција да ги освестам за тоа како нивните деловни тајни и приватност потенцијално може да се искористат и злоупотребат од самите гиганти или од некој што се претставува лажно во нивно име.