Какво е „дестилация“ на изкуствен интелект и защо индустрията е разтревожена?

Американските компании за изкуствен интелект (AI) похарчиха стотици милиарди долари за разработването на все по-напреднали чатботове. Тяхната голяма ставка е, че ще успеят да привлекат достатъчно клиенти, за да оправдаят колосалните си инвестиции. Този бизнес модел обаче е изложен на сериозен риск – той може да бъде подкопан от конкуренти, които създават сходни ИИ системи на значително по-ниска цена.

В последно време щатските компании все по-често обвиняват китайските си съперници в използването на техника, известна като „дестилация“. Според тях чрез този метод китайските лаборатории неправомерно използват резултатите от водещите американски модели, за да създават свои конкурентни чатботове. Така те получават готов продукт за малка част от реалната му пазарна цена, но без да вграждат в него необходимите защити и филтри за безопасност.

През юни Anthropic PBC обяви, че Alibaba Group Holding Ltd. е използвала „незаконна“ дестилация в индустриални мащаби, за да извлече данни от нейния модел Claude и да изгради собствена AI система. Подобни обвинения бяха отправени от Anthropic и OpenAI и към други китайски лаборатории, сред които DeepSeek и MiniMax. До момента нито една от споменатите компании, включително Alibaba, не е отговорила на обвиненията.

Какво представлява „дестилацията“?

Дестилацията е метод, често използван от разработчиците, при който един голям езиков модел се обучава чрез резултатите на друг. Процесът изглежда така: разработчикът подава серия от текстови подкани (prompts) към по-голям и по-напреднал модел („учител“), а неговите отговори се използват за обучението на по-малък модел („ученик“), който да възпроизведе способностите на оригинала.

Крайният резултат е модел, който може да изпълнява почти същите функции като първообраза си, но срещу драстично по-ниски разходи и с много по-малко изчислителна мощ, отколкото ако подобна система се изграждаше от нулата. Знанията не се прехвърлят директно от една архитектура в друга; вместо това моделът-ученик се научава да имитира поведението на модела-учител въз основа на неговите отговори.

Дестилацията се смята за напълно приемлива практика, когато компаниите я прилагат върху собствените си модели или когато външни разработчици я използват за създаване на продукти, които не са пряка конкуренция на оригинала. Този метод, известен като „оторизирана дестилация“, позволява на изследователите да компресират огромни модели в по-малки, по-бързи и по-ефективни версии, оптимизирани за конкретни задачи. Тези производни модели обикновено нямат пълния капацитет на оригинала, но работят много по-експедитивно и поддръжката им е по-евтина.

Защо методът предизвиква толкова спорове?

Проблемът възниква, когато трети страни използват дестилацията, за да копират възможностите на патентован AI модел без разрешението на неговия собственик. Тази практика поражда сериозни правни, икономически и свързани със сигурността рискове.

Водещите компании твърдят, че неразрешената дестилация застрашава директно бизнеса им. Много китайски лаборатории, включително DeepSeek, разработват модели с отворен код (open-weights), което означава, че части от ядрото на системата са публично достъпни и потребителите могат свободно да ги изтеглят и използват.

За разлика от тях най-големите щатски играчи например държат моделите си затворени (патентовани), разчитайки, че клиентите ще плащат за достъп. Само така те могат да възвърнат стотиците милиарди долари, вложени в центрове за данни и инфраструктура. Според тях, ако конкурентите могат да копират моделите им без пари и да ги предлагат евтино или напълно безплатно, това ще срине продажбите им. По оценки на американски служители неразрешената дестилация вече струва на местния бизнес милиарди долари пропуснати годишни ползи.

Освен финансовия аспект, американските компании предупреждават и за опасности пред сигурността. Те алармират, че външни играчи или враждебни държави могат да използват технологията, за да разработят AI системи без никакви защитни механизми. Това би улеснило злонамереното използване на платформите за опасни цели – от създаване на биологични оръжия (смъртоносни патогени) до провеждане на масирани автоматизирани хакерски атаки.

Как може да се засече подобна „атака“?

Доказателствата за подобни практики често са косвени и към момента е изключително трудно да се докаже по безспорен начин, че даден конкурентен модел е създаден чрез дестилация.

През февруари от Anthropic обявиха, че три от водещите AI компании в Китай са се опитали незаконно да извлекат данни от техните системи. Според компанията тези фирми са генерирали над 16 милиона взаимодействия чрез фалшиви профили. Засичането им е станало възможно благодарение на анализ на IP адреси и метаданни. Други партньори в технологичния сектор са потвърдили, че са наблюдавали абсолютно същите профили и поведение в своите платформи.

В официално писмо от юни, изпратено до американски сенатори и представители на Белия дом, Anthropic посочва, че предполагаемата кампания на Alibaba е включвала 28.8 милиона взаимодействия с чатбота Claude между април и юни. Те са били осъществени през близо 25 000 фалшиви акаунта – информация, потвърдена от източници, запознати с документа, и копия, цитирани от Bloomberg News.

Възможно ли е процесът да бъде спрян?

Водещите компании в САЩ вече предприемат сериозни контрамерки срещу т.нар. „атаки чрез дестилация“. Те засилват обмена на информация в сектора относно неразрешеното извличане на данни и активно блокират достъпа на подозрителни потребители до платформите си.

Законодателите във Вашингтон и администрацията на Тръмп също започват да обръщат сериозно внимание на притесненията на Силициевата долина. Белият дом обяви, че ще си сътрудничи с бизнеса, за да се намерят начини за ограничаване на нерегламентираната дестилация и за търсене на отговорност от нарушителите. Междувременно републиканците в Камарата на представителите призоваха за налагане на икономически санкции срещу китайски организации, които използват тази практика в индустриални мащаби, за да подкопават американския пазар.