Знанията и етиката са ключът за изкуствения интелект

Проф. Илиева, институтът GATE работи в области, които са критични за управление на бъдещето - управление на данни за борба с дезинформацията, за създаване и управление на „умни градове“, за развитие на дигитална медицина. Кои ваши разработки носят заряда на бъдещето и как изглежда то?

В направлението „Цифрово здравеопазване“ разработваме модели, използващи данни, събрани по неинвазивен за хората начин, за да анализираме и предскажем вероятността за развитие на определено заболяване или достигнатата фаза на неговото развитие. Например, в сътрудничество с Оксфордския университет разработихме модел, определящ т. нар. невропатологичен профил на базата на клинични данни, които не са обвързани с инвазивни процедури като лумбална пункция. Целта е разпознаване на пациенти в предклинична фаза на болестта на Алцхаймер при използване на съвременни методи от машинното самообучение.

В направлението „Градове на бъдещето“ разработваме пилотен проект за създаване на „цифров двойник“ на града на територията на Район „Лозенец“ в София. Цифровите двойници свързват реалния и виртуалния свят посредством събиране на данни в реално време. Те се използват за изследване и симулиране на различни процеси и явления във виртуалния свят, с което се проверява как тяхното протичане би променило реалността около нас и качеството ни на живот.

Изследванията в областта на дезинформацията се фокусират върху използването на изкуствен интелект, машинно обучение и анализ на големи данни за откриване на фалшиви новини и препоръка на мерки за противодействие. Разработваме подходи, използващи методи на машинното обучение за откриване на шаблони и признаци на дезинформация в медийни форми - текстове, снимки, видеа и социални мрежи. Те автоматично проверяват достоверността на информацията и подпомагат разбирането на социалните мрежи и влиянията им върху  разпространението на дезинформация.

Какъв е потенциалът на пространствата от данни (Data Spaces), които използваме, и как да се възползваме максимално от тях?

Институтът GATE e хъб на Международната организация за пространства за данни (International Data Space Association, IDSA) и катализатор на националните усилия за използване и споделяне на данни както в индустриални, така и в обществени области. GATE е двигател за създаване на общност с участие на бизнеса, публичната и градската администрации и среда за инкубация и ускоряване на иновации, базирани на споделяне и използване на данни на национално и регионално ниво. Институтът улеснява внедряването на IDS технологиите чрез предоставяне на техническа експертиза, свързана с IDS архитектурата и внедряване на компоненти за реализиране на индустриални и публични пространства за данни.

GATE изгражда пространство за споделяне на данни и осигуряване на данните като услуга с приложение в градовете. Ангажира се и в обучение по създаване на бизнес модели, базирани на данни. Целта е да се покаже как чрез комбиниране на данни от различни източници и споделяне на данни от заинтересовани страни се създава добавена стойност, която води до усъвършенстване на съществуващите бизнес модели и създаване на нови такива. С дейността си GATE подпомага модернизирането на компаниите, стимулирайки ги да събират, споделят и преизползват данните си, за да оптимизират процесите си и създават нови продукти и услуги.

Как се случва един „умен град“? Какво можете да предложите още, за да стане столицата например „по-умен“ град?

В GATE наричаме „умните градове“ „градове на бъдещето“. Това са градове, които прилагат технологиите на големите данни и изкуствения интелект не само за да автоматизират процесите, например чрез създаване на системи за е-билети или за управление на трафика с „умни светофари“, а да станат по-ефективни и по-добро място за живеене. Един от пилотните проекти на GATE е свързан с разработването на сценарии, подпомагащи вземането на решения за управлението на градските процеси и среда. Аналогично разработихме енергиен атлас на София и изследваме т.нар. острови на топлина, причинени от завишена енергийна консумация, трафик и презастрояване. Това подпомага дефинирането на стратегии за предприемане на мерки за намаляване на въглеродните емисии.

Има ли достатъчно разбиране за значението на данните при управлението на бизнес процесите у нас? Кои икономически сфери са най-напредничави в това отношение и кои изостават?

В контекста на цифровата икономика, България заема предпоследно място в ЕС според Индекса за цифровата икономика и общество (DESI) за 2022 г. Въпреки че има устойчив растеж от 9% на годишна база през последните 5 г., страната ни е  далеч зад другите държави-членки по отношение на дигиталното развитие.

От гледна точка на бизнеса, дигитализацията в сектора на малките и средни предприятия (МСП) е значително под средното ниво за ЕС. Малък процент от българските предприятия използват ключови технологии като големи данни (6% от всички МСП), облачни услуги (10%) и изкуствен интелект (3%). Въпреки това, България работи активно за насърчаване на дигиталната иновация.

Секторите на информационните технологии и телекомуникациите са сред най-напредналите в използването на данни за управление на бизнес процесите, докато по-традиционните сектори като производството и земеделие все още изостават. За да се подобри тази ситуация, е необходимо да се ускорят усилията за повишаване на цифровите умения и интегрирането на новите технологии във всички сфери.

Изкуственият интелект е сред нас, но бихте ли споделили кои са най-големите му постижения, които ни служат? Какво е нужно да променим, за да се възползваме от целия му потенциал?

AI системите разчитат на данни. Осигуряването на лесен достъп до качествени данни при запазване на поверителността и сигурността е съществено за точни резултати.

Трябва да се гарантира използването на ИИ  в съответствие с етични стандарти и закони за личната поверителност, за да се повиши доверието в него. Разработването на рамки и насоки за етично разработване и внедряване на ИИ е от съществено значение.

Разработването на ИИ изисква сътрудничество между експерти от различни области, включително компютърни науки, математика, невронауки, психология, етика, право и социология. Наличието на интердисциплинарното сътрудничество може да доведе до разгръщане на пълния потенциал (по-холистични/всеобхватни ИИ решения).

Има нужда от обучение на хората относно ИИ технологиите, техните възможности, ограничения и етични последици. Интензифициране на изследванията и иновациите е от съществено значение за усъвършенстване на възможностите на ИИ системите. Това включва изследвания в области като алгоритми за машинно обучение, обработка на естествен език, компютърно зрение, обясним и безопасен ИИ.

Адекватна инфраструктура и ресурси като изчислителна мощ, хранилища на данни, и мрежови възможности са важни за разработването и внедряването на ИИ системи в голям мащаб.

Насърчаването на доверието и откритостта в общността на ИИ може да улесни споделянето на знания, да насърчи иновациите и да ускори напредъка в областта.

Какви ограничения и предизвикателства срещате при прилагането на разработки на института в реална бизнес или социална среда? Срещата ли разбиране за мащаба на идеите и инвестициите, които те изискват?

При прилагането на разработки в реална среда съществува неяснота относно мащаба и реалната стойност на идеите: институции, чиято основна дейност са изследванията, често разработват идеи и технологии, които са в ранен етап на развитие. Това може да затрудни оценката на необходимите ресурси за реализацията им.

Внедряването на иновации изисква интеграция във вече съществуващите бизнес процеси. Това често изисква изграждане на тясно сътрудничество със заинтересовани страни, които трябва да бъдат убедени в ползата от тях.

Има и недостатъчно разбиране за технологичния цикъл: бизнес средата може да не разбира напълно технологичния цикъл на изследователските проекти. Изследователските разработки често се развиват с дългосрочни цели, докато бизнесът се фокусира повече върху ускорено доставяне на нов продукт и краткосрочните печалби. Разработката и внедряването на нови идеи често изисква значителни финансови инвестиции. Бизнес или социалната среда може да не бъде готова да поеме този риск или да не разполага с ресурси.

Внедряването на нови технологии и иновации води до сблъскване с различни правни и регулаторни предизвикателства, които могат да забавят или ограничат процеса. Пример за това са пространствата за данни, където освен технологичната реализация, са налични проблеми с управлението на данните, свързани с правилата и ограниченията за тяхното споделяне и използване.

Необходима е активна комуникация между изследователските институции и бизнес сектора, за да се улесни разбирането на стойността на научните разработки и свързаните с тях иновации.

В обстановка на две войни в момента GATE служи като тестов център за нови технологии с двойно предназначение в рамките на гражданско-военния орган на НАТО за стимулиране на иновациите в отбраната (DIANA) и др. Разкажете ни за това. Какво предстои в тази сфера?

Ускорителят на НАТО за стимулиране на иновациите в отбраната (DIANA) цели да създаде екосистема от иноватори, предприемачи, изследователи, инвеститори и експерти, които да развият технологии от ново поколение в полза на обществената сигурност и гражданската устойчивост. GATE бе избран да бъде тестов център в сферата на големите данни и изкуствения интелект. Институтът приема иноватори от България и съюзниците в НАТО, които да тестват своите разработки с цел оценка, валидиране и верификация. Работим активно и с изследователи, за да разберем какви са обществените предизвикателства, в България, и как да се справим с тях. Например, развиваме експертиза в откриването и борбата срещу дезинформацията.

В този смисъл, DIANA е възможност да бъде ускорена модернизацията на българската армия чрез активното включване на иноватори от България и съюзниците от НАТО. DIANA цели да развие технологии с двойно предназначение, които могат да бъдат използвани не само от военни организации, но и в полза на икономическата сигурност, енергийната устойчивост, здравния сектор, дигиталното развитие и много други.

Tестовият център на НАТО в сферата на големите данни и изкуствения интелект има потенциала да привлече нови инвестиции и да осигури достъп до най-новите технологии и добри практики в сферата на иновациите от целия Алианс. Институт GATE играе ролята на мост това да стане реалност. За да тестват своите технологии, българските иноватори могат да кандидатстват за специфични предизвикателства, които централата на DIANA публикува всеки 2-3 месеца, или да се свържат директно с Институт GATE.

Текстът е част от бр. 119 на сп. „Икономика“. Публикува се в Economic.bg по силата на партньорско споразумение между двете медии. Темите и мненията са подбрани от екипа на списанието и не съвпадат непременно с редакционната политика на Economic.bg.