Карни сравни спирането на Anthropic с финансовата криза от 2008 г.

Канадският министър-председател Марк Карни заяви, че забраната от администрацията в САЩ, която принуди Anthropic да спре Fable 5 и Mythos 5, демонстрира опасната зависимост от малък брой мощни AI модели. Говорейки пред журналисти по време на посещение в Ирландия, Карни представи спирането като предупреждение за системна уязвимост, а не като провал на конкретна компания, предава The Next Web.

Ситуацията, в която всички ние се намираме в момента с Mythos и Fable, е нещо, което може да се случи при прекомерна зависимост от определени модели“, каза Карни. „В тази ситуация никой не е направил нищо погрешно, но ще сгрешим, ако просто приемем случилото се, не си вземем поука и не изградим по-широка и диверсифицирана екосистема.“

Бившият централен банкер направи пряк паралел с финансовата криза през 2008 г. Карни, който е ръководил както Банката на Канада, така и Банката на Англия, преди да влезе в политиката, заяви, че „имаме сходни явления по отношение на риска от моделите“ и призова за резервираност и разнообразие при AI инфраструктурата – същите принципи, които регулаторите наложиха на банковата система след фалита на Lehman Brothers.

Тази аналогия има тежест именно заради човека, който я прави. Карни беше управител на Банката на Канада по време на кризата през 2008 г., а впоследствие стана първият небританец начело на Банката на Англия, където прекара шест години в укрепване устойчивостта на финансовата система. Когато предупреждава, че концентрираната зависимост от AI наподобява системните взаимовръзки, които едва не унищожиха глобалната банкова система, сравнението се основава на пряк опит, а не на удобна реторика.

Карни заяви, че между канадското и американското правителства има „добър обмен на информация“ по темата за изкуствения интелект и призна, че Вашингтон е идентифицирал „определени рискове“ при най-новите модели на Anthropic. Акцентът му обаче беше върху структурния урок, а не върху конкретния спор между Anthropic и Министерството на търговията на САЩ.

Коментарите му идват само дни преди срещата на върха на Г-7 в Евиан-ле-Бен, Франция, която се провежда от 15 до 17 юни и поставя управлението на AI сред основните точки в дневния ред. Дарио Амодеи от Anthropic, Сам Олтман от OpenAI и Демис Хасабис от Google DeepMind ще участват в работен обяд с лидерите на Г-7 в сряда. Карни заяви, че вече е обсъдил темата за AI с френския президент Еманюел Макрон.

Трябва да постигнем напредък“, каза Карни по отношение на AI, но предупреди, че „от срещата на Г-7 няма да излезе транспарант с надпис „мисията е изпълнена“. Тази забележка подсказва, че Канада ще настоява за реални ангажименти за диверсификация в сферата на AI в Евиан, а не за символични декларации.

Канада вече се позиционира активно в тази посока. На 4 юни Карни представи „AI за всички“ – национална стратегия за изкуствен интелект на стойност 2.3 млрд. долара, която включва суверенна изчислителна инфраструктура, национален суперкомпютър и планове делът на бизнеса, използващ AI, да нарасне от 12 до 60% до 2034 г. В стратегията изрично се посочва, че зависимостта от чуждестранни облачни доставчици представлява уязвимост.

Случаят с Anthropic вече даде на Карни конкретен и актуален пример, който може да използва на срещата на Г-7. Решение на американското правителство да приложи експортен контрол спрямо една-единствена AI компания прекъсна достъпа до най-мощните ѝ модели за всички потребители извън Съединените щати, включително за съюзниците на Вашингтон. За държавите от Г-7, които изграждат икономиките си около AI възможности, които не контролират, последиците са трудни за пренебрегване.

Посещението на Карни в Ирландия доведе и до двустранно споразумение между Канада и Ирландия за сътрудничество в областта на AI, технологиите и продоволствената сигурност. В момента Ирландия председателства Съвета на Европейския съюз, което я превръща в стратегически партньор за Канада в стремежа ѝ да задълбочи връзките си с Европа в областта на AI, отбраната и критичните минерали.

По-широката тенденция набира скорост. По-рано този месец Европейският съюз публикува пакет за технологичен суверенитет, насочен към ограничаване на зависимостта от американски облачни услуги. След спирането на Anthropic Индия предложи създаването на суверенен AI фонд на стойност 5 млрд. долара.

Британската Cosine мобилизира BT, HSBC и BAE за изграждането на суверенен водещ AI модел. Аналогията на Карни с кризата от 2008 г. подсказва, че той разглежда тези инициативи като първи стъпки към структурно пренареждане, а не като изолирани реакции.