Младият учен, който неочаквано отказа поисканите $60 000 от Google

Старк е асистент в Западния университет на Онтарио, Канада, където изучава социалните и етични въздействия на изкуствения интелект. В края на ноември той кандидатства за награда на Google Research Scholar, безвъзмездна финансова помощ за научни изследвания в размер до 60 000 долара, която се дава в подкрепа на преподаватели в началото на кариерата си.

Когато решава да кандидатства за гранта, Старк го прави заради

усещането ми по това време, че Google изгражда наистина силен, потенциално водещ в индустрията етичен екип за изкуствен интелект“.

Скоро обаче това му чувство започва да се разколебава, а причините са свързани с внезапното уволнение на Тимнит Гебру, виден AI експерт в редиците на технологичния гигант.

Казусът с Гебру

На 2 декември Гебру написа в Twitter, че е била „незабавно уволнена“ заради имейл, който от гиганта окачествиха като „несъвместим с очакванията към мениджър“ на компанията.

Тимнит Гебру бе съ-ръководител на екипа за етичен изкуствен интелект на Google, пионер по темата за т.н. алгоритмично пристрастие и един от явните защитници на правата на служителите.

Преди две години тя е сред авторите на изследване в областта на лицевото разпознаване чрез системи за изкуствен интелект. Проучването стига до извода, че технологията прави множество грешки при разпознаването на тъмнокожи, докато при хора със светъл цвят на кожата – пренебрежимо малко. Казусът предизвиква сериозни коментари в публичното пространство, включително за това по какъв начин се обучават системите и акуратни ли са данните, с които се захранват.

Междувременно вътре в компанията пък се поражда конфликт между Гебру и един от преките ѝ ръководители. Той ескалира дотолкова, че тя заявила, че ако изискванията ѝ не бъдат удовлетворени, ще напусне. Изненадващо от компанията я изпреварват и я уволняват без предупреждение. Съдбата ѝ бе последвана от колегата ѝ Маргарет Мичъл.

Случилото се за пореден път отваря темата за това доколко корпорациите всъщност се вслушват в гласа на учените и наистина ли се ангажират с етичната страна на технологиите или все пак са склонни да я пренебрегват в името на други приоритети. Особено в областта на изкуствения интелект това е едно от основните предизвикателства пред бъдещото внедряване и масово използване на такива системи. Очаква се, че на тях ще се гласува огромна отговорност и ако сега не бъдат изпипани такива базови подробности, последиците могат да са изключително негативни. 

Реакцията на младия учен Люк Старк

По-рано този месец Старк получава известие от Google, че печели наградата от 60 000 долара за своя проект, свързан с това как компаниите използват AI за откриване на емоции. Вместо да се зарадва обаче той отхвърлил приза, за да покаже съпричастност за Гебру и Мичъл.

„Първата ми мисъл беше: Трябва да откажа“, споделя Старк пред CNN Business.

Старк е сред нарастващия брой хора в академичните среди, които се позовават на случая с изгонването на Гебру и Мичъл като мотив да откажат финансиране или други предоставяни от Google възможности за развитие. Някои организатори на AI конференции преосмислят потенциални спонсорства на гиганта.

„От съвест вече не мога да приема финансиране от компания, която третира служителите си по този начин“, коментира Виджай Чидамбарам, асистент в Тексаския университет в Остин, който изучава системи за съхранение. По-рано той е получил 30 000 долара от Google за свой изследователски проект.

За компанията парите не са от голямо значение, но затова пък репутацията ѝ в AI средите е под въпрос. А това е от решаващо значение в борбата за таланти.

Мисля, че това е по-голямо, отколкото компанията осъзнава“, отбелязва Старк.

Въпреки първоначалния си порив да откаже парите, Старк не го прави на мига. Нужни са му няколко дни, за да изпрати писмото си до Google. В него той благодари за „гласуваното доверие“ в неговите изследвания, но пише още: „Отказвам тази награда в знак на солидарност с д-р Гебру и Мичъл, техните съмишленици и всички, които са били в подобни ситуации.“

Старк все пак се надява да има възможността в бъдеще да си сътрудничи с Google Research – „в момента, в който организацията и нейните ръководители са разсъждавали върху решението си по този случай, разгледали са вредите, които са причинили, и са се ангажирали с думи и дела да насърчават критични изследвания и продукти, които подкрепят справедливостта.“