OpenAI – планът на Илон Мъск да направи изкуствения интелект общодостъпен

Илон Мъск

Политиците и капиталистите имат една следобедна петъчна традиция: да  ни засипят с куп новини, за да скрият сред тях лошите. Затова беше доста странно, че Илон Мъск – основателят на компанията за производство на електромобили Tesla, и Сем Олтман – президент на известния технологичен инкубатор Y Combinator, представиха своята нова компания за разработка на изкуствен интелект в края на седмичната конференция за изкуствения интелект в Монреал през декември миналата година.

За да бъде презентиран OpenAI в толкова късен час си имаше причина –  да могат да гледат всички. Когато някои от най-влиятелните компании в Силициевата долина разбраха накъде духа вятърът, започнаха да предлагат огромни суми на току-що наетите от OpenAI служители, надявайки се да задържат тези гении под своето крило. Офертите, направени в последната минута – някои от тях направо на конференцията – придобиха такива измерения, че Мъск и Олтман бяха принудени да отложат анонсирането на новия стартъп. „Сумите стигнаха границите на безумието“, сподели Войцех Заремба, учен, който се присъедини към OpenAI след стаж в Google и Facebook и беше сред тези, които получиха големите оферти към единайсет часа вечерта.

Колко долара определят „границата на безумието“ в САЩ? Преди две години, когато пазарът на новите технологии за машинно обучение набираше скорост, вицепрезидентът на Microsoft Research Питър Лий заяви, че заплатата на топ-изследовател на изкуствения интелект превишава заплатата на топ-коутърбек в Националната футболна лига – при това при обичайни обстоятелства, а не когато двама от най-известните предприемачи в Силициевата долина се опитват да привлекат на своя страна най-добрите таланти. Заремба призна, че в процеса на организация на OpenAI му е предложена двойно и дори тройно по-голяма сума от реалната му работна заплата.

OpenAI не можа да отговори с по-добри оферти. Но предложи нещо друго: възможност да се провеждат изследвания, насочени изключително към бъдещето, а не към създаването на продукти, с които да отчиташ печалби на тримесечие. И накрая – тези  изследвания да бъдат споделени ако не със всички, то с всеки, който пожелае това. Точно така – Мъск и Олтман искат да раздадат на хората това, което може да стане най-революционната технология на ХХІ век, при това безплатно.

Заремба признава, че именно нереалните предложения в действителност са го отблъснали – въпреки огромното му уважение към компаниите Google и Facebook. Той смята, че тези пари и опитите да се попречи на създаването на OpenAI не са нищо повече от опит да се домогнат до услугите му, което допълнително засилва вярата му в благородната мисия на стартъпа. „Аз осъзнах, че OpenAI е най-доброто място за мен“, каза той.

И в това е главната ирония на цялата тази история. Докато двете най-големи технологични компании в света се опитват да задържат своите изследователи със същия хъс, с който и отборите на Националната футболна лига се опитват да задържат най-големите си звезди, самите изследователи просто искат да споделят резултатите си. В ексклузивния свят на изследванията на изкуствения интелект най-ярките умове не се мотивират само, или поне не само от серия нови продукти или печалба. Те искат да направят изкуствения интелект по-добър и това няма как да се случи, ако пазиш най-новите си открития само за себе си.

Неотдавна OpenAI представи първия си пакет с програмно осигуряване на изкуствения интелект. Това е инструментариум за създаването на системи на изкуствения интелект на базата на технология, наречена „обучение с подкрепление“ (reinforcement learning) – една от ключовите технологии, довели до създаването на AlphaGo –  изкуственият интелект на Google, който удиви света със своите възможности в играта Го. С помощта на този инструментариум можете да създадете системи, които да моделират нов тип роботи, да играят на игрите Atari и да, да учат Го.

Но игрите са само началото. OpenAI е мисия, струваща милиард долара, чиято цел е да изтласка развитието на изкуствения интелект възможно най-далече. От това как се е формирала компанията и какви са нейните планове, можем да видим новата вълна на иновациите. Засега не знаем ще стане ли OpenAI основният двигател на тези промени. Но силите, които са обусловили създаването на този доста необичаен стартъп, показват, че новото поколение изкуствен интелект не само ще промени технологиите, но и самия метод, по който се създават тези технологии.

Не може да се отрече, че Силициевата долина има страст към преувеличенията. Гръмките изявления винаги трябва да се посрещат с доза скептицизъм. Но в областта на изкуствения интелект промените са повече от реални. В такива компании като Google и Facebook технологиите под название „дълбинно обучение“ (deer learning) вече помагат за интернет-услуги с определяне на лицата на снимките, разпознаване на гласови команди от смартфоните и отговор на запитванията в интернет-търсачките. И същата тази технология може да решава много други задачи в бъдеще.Тя може да помогне на машините да се научат да разбират естествения език, на който ние, хората, говорим и пишем. Може да помогне за създаването на нови видове роботи, да позволи на автоматичните устройства не само да изпълняват задачи, но и да се обучават мигновено. И някои смятат, че някой ден тя ще даде на машините нещо подобно на онова, което наричаме разум – способността да мислиш като човек.

Но тези обещания пораждат и дълбоко безпокойство. Мъск и Олтман се притесняват, че ако хората създадат изкуствен интелект, който твори велики неща, то те ще могат да сътворят и изкуствен интелект, който да извършва и ужасни неща. Страховете им се споделят и от други. Макар и да звучи нелогично, Мъск и Олтман смятат, че най-добрият начин да пребориш вредния изкуствен интелект е като  разширяваш, а не ограничаваш достъпа до него. Донякъде именно това привлича в проекта отбор от млади, хипер-интелигентни идеалисти.

OpenAI се ражда една лятна вечер в стая на Rosewood Hotel в Силициевата долина, по време на вечеря на Илон Мъск с Иля Суцкевър. По това време той все още работел в Google Brain – компания, опитваща се да създаде невронна мрежа – система, притежаваща ИИ, която може да се обучава и да изпълнява задачи, анализирайки огромен обем цифрови данни, включвайки всичко – от разпознаването на снимки до писането на електронни писма и водене на разговори. Суцкевър бил един от водещите разработчици на проекта. Но в играта внезапно влизат нови идеи.

Сам Олтман, чийто Y Combinator е помогнал за формирането на такива компании като Airbnb, Dropbox и Coinbase, на тази среща изпълнявал ролята на посредник, запознавайки няколко изследователя на ИИ с младия, но опитен Грег Брокман, бивш директор по технологиите във висококласния стартъп Stripe, също компания на Y Combinator. Това бил един експлозивен отбор. Но всички имали една цел: да създадат нов тип лаборатория за изкуствен интелект, която да работи извън контрола не само на Google, но и на който и да било друг.

„Най-доброто, което мога да си представя, е да приближа човечеството към създаването на истински изкуствен интелект по безопасен начин“, казва Брокман.

Мъск бил на тази среща, защото е стар приятел на Олтман и защото изкуственият интелект има решаващо значение за бъдещето на неговите предприятия. Tesla се нуждае от ИИ, ако иска да произвежда самоуправляващи се автомобили. Другата компания на Мъск – SpaceX, също има нужда от тези разработки, за да доставя хора в Космоса. Но Мъск е и един от най-влиятелните хора, които предупреждават: един ден човечеството може да загуби контрола върху системите, които са достатъчно мощни, за да могат да се обучават самостоятелно.

Проблемът бил в това, че много хора, достатъчно добре квалифицирани, за да решат всички тези проблеми, вече работели в Google (както и във Facebook, Microsoft и Baidu). И никой от присъстващите на онази вечеря не бил уверен, че може да бъде подмамен да се включи в новия стартъп, дори и зад него да стоят Мъск и Олтман. Но един от ключовите играчи все пак бил готов да го стори. „Разбирах рисковете, но също така бях наясно, че ще бъде интересно да се опита“, спомня си Суцкевър.

Окуражен от разговора с Мъск, Олтман и другите, събрали се в Rosewood Hotel, Брокман скоро решава да създаде замислената лаборатория. Взимайки постоянно участие в проекта, той кани Йошуа Бенджио, учен от Университета в Монреал и един от бащите-основатели на „дълбинното обучение“. Други двама пионери в тази област – Джеф Хинтън и Ян Лекун – сега работят съответно в Google и Facebook. Бенджио обаче е предан на академичните среди, които не се вписват в кръга от интереси на промишления капитал. Той съставил списък на най-добрите изследователи в тази област и през следващите няколко седмици Брокман и колегите му се опитали да привлекат колкото се може повече хора от този списък.

На много от изследователите идеята им харесала, но били нащрек. В опит да разкъса порочния кръг, Брокман избрал десетима от тях, които най-много искал да види в проекта. Поканил ги да прекарат една събота на вино, обяд и разговори в особената атмосфера на винарска изба в долината Напа. Предложил им участие в своя проект и им дал три седмици за размисъл. Деветима от тях се съгласили и останали в неговия отбор, въпреки крупните оферти на гигантите от Силициевата долина. „Направиха така, че ми се прииска да остана, така че решението не беше лесно“ – разказва Суцкевър за своя бивш работодател Google – И все пак реших да се присъединя към OpenAI, донякъде заради силния отбор, но най-вече заради тяхната мисия“.

Дълбинното обучение се заражда в академичните среди. Компаниите от рода на Google, Microsoft и Facebook решиха да се заемат с тази област неотдавна, след като увеличаването на чистата изчислителна мощност на компютрите превърна невронните мрежи в реалност, а не просто теоретична възможност. Хора като Хинтън и Лекун напуснаха университетската среда и преминаха в Google и Facebook заради огромните ресурси, с които разполагат тези компании. Но те продължават активно да сътрудничат с другите теоретици от тази сфера. Още повече, че изследванията на дълбинното обучение изискват свободна обмяна на идеи, смята Лекун. Той е сигурен, че „когато се занимавате с изследвания тайно, вие изоставате“.

Създателят и изпълнителен директор на Facebook Марк Зъкърбърг открива в Париж лаборатория по дълбинно обучение (Deep learning lab)

В резултат на това днес големите компании обменят голяма част от изследванията си върху изкуствения интелект. И това са сериозни промени, особено за Google, която дълго пазеше ключовите технологии на своята онлайн-империя в тайна. Неотдавна Google отвориха за общ достъп изходния код на програмното осигуряване, управляващо неговите невронни мрежи. Но прекалено много неща все още остават скрити в тази надпревара за бъдещето. Брокман, Олтман и Мъск се стремят да прокарат още по-далеч своите възгледи за откритост, заявявайки, че не желаят една или две огромни корпорации да контролират бъдещото на изкуствения интелект.

Всичко това звучи прекрасно. Но при целия идеализъм на OpenAI, изследователите могат да се окажат в условия, които ги принуждават да правят същите компромиси, каквито и на предишната си работа. Откритостта си има своите граници. И дългосрочната визия за ИИ не е единственият интерес в тази игра. OpenAI не се занимават с благотворителност. Компаниите на Мъск ще получат огромна изгода от работата по стартъпа, както и компаниите на Олтман. По думите на Брокман, лабораторията не плаща същите астрономически заплати, които са получавали ИИ-изследователите в Google и Facebook. Но все пак лабораториите „искат да им плащат добре“ и им предлагат компенсация под формата на пакет акции първо в Y Combinator, а по-късно, възможно е, и в SpaceX (която, за разлика от Tesla, все още е частна компания).

И все пак Брокман твърди, че OpenAI няма да поставя в привилегировано положение сестринските си компании. OpenAI е изследователска инициатива, а не консултантска фирма. Идеализмът на OpenAI обаче си има граници, казва той. Компанията не разкрива кодовете на всичко, което произвежда, макар че се старае да споделя по-голяма част от своите изследвания, било то с научни статии или интернет-услуги. „Откритата работа не е задължително най-добрият вариант. Идеята трябва добре да се обмисли, да се види до какво ще доведе, а после да се публикува. Ние ще произвеждаме много открити изходни кодове, но все още има много неща, които не сме готови да споделим“, казва Брокман.

Суцкевър също смята, че OpenAI може да стигне толкова далеч, че да започне да патентова част от своите разработки. „В близко време няма да патентоваме нищо, но сме готови да променим тактиката си в дългосрочна перспектива, ако преценим, че за света така ще е по-добре“, казва Брокман. Според него OpenAI може да се заеме с изпреварващо патентоване – особена тактика, за да се попречи на друг да получи патента. Но за някои патентите означават стремеж към печалба и съответно, към по-малка откритост от онази, която изповядват основателите на OpenAI. „Това е същността на патентната система, което ме кара да се замисля към какво всъщност се стремят те“, казва Орен Етциони, изпълнителен директор на Института по изкуствен интелект Ален.

Когато Мъск и Олтман представяха OpenAI, те описаха проекта като начин да се неутрализира заплахата от вредоносен изкуствен свръхразум. Разбира се, такъв може да се появи в резултат от създаваните от OpenAI технологии, но в компанията твърдят, че всякакви заплахи ще бъде неутрализирана заради това, че са достъпни за всекиго.

Не всички от тази сфера обаче вярват в подобен изход. Ник Бостром, оксфордски философ, също като Мъск предупреждава за опасностите на ИИ, посочвайки, че ако изследванията се споделят без ограничение, те могат злонамерено да бъдат използвани още преди да се потвърди тяхната безопасност. „Ако разполагахте с копче, което би могло да прави лоши неща за света, сигурно не бихте искали да давате на всеки достъп към него“, казва Бостром.  Ако, от друга страна, OpenAI реши да задържа изследванията си, за да ги опази от „лошите момчета“, то с какво тя ще се отличава от Google или Facebook?, пита Бостром.

В една от последните си публикации философът обяснява, че основният ефект от такава инициатива като OpenAI – инициатива за свободно споделяне на разработки – е в ускоряването на прогреса на изкуствения интелект, поне в краткосрочна перспектива. OpenAI може да ускори прогреса и в дългосрочен план, ако по алтруистични причини „поддържа по-високо от комерсиалното ниво на откритост“.

В началото на януари деветимата изследователи на Брокман се срещнаха в апартамента му в Сан Франциско. Проектът бе дотолкова нов, че дори нямаха бяла дъска за записи. Те купиха няколко такива още същия ден и се хванаха за работа.

Брокман казва, че OpenAI ще стартира с изследването на обучение с подкрепление – способ, при който машините изучават поставени задачи, повтаряйки ги отново и отново, и проследявайки кои методи дават по-добри резултати. Другата основна задача е т.нар. обучение без учител, т.е., създаване на машини, които могат да се обучават самостоятелно, без помощта на човека. Днес дълбинното обучение се провежда въз основа на обстойно проверени данни. Ако искате да научите невронната мрежа да разпознава снимки на котки, трябва да й предложите  определен брой примери – и тези примери трябва да са отбелязани като снимки на котки. Такова обучение се провежда с помощта на хората, които маркират снимките. Но както и много други учени, OpenAI планират да създадат невронни мрежи, които могат да се учат без маркирани данни.

„Ако вие разполагате с наистина добра методика на обучение без учител, тогава машините ще бъдат способни да се обучат на всичко чрез интернет – както хората се обучават, просто оглеждайки се наоколо или четейки книги“, обяснява Брокман.

Той вижда в OpenAI съвременната инкарнация на Xerox PARC – технологично-изследователската лаборатория, която процъфтяваше през 70-те години на миналия век. Както откритите и свободни изследвания на PARC са дали развитие на всичко – от графични потребителски интерфейси и лазерен печат до обектно-ориентирано програмиране, така и Брокман със своя отбор иска да се гмурне в онова, което по-рано ние смятахме за научна фантастика. Да, PARC принадлежеше на Xerox, но този проект беше спонсориран от много други компании, преди всичко от Apple, защото такива хора като Стив Джобс бяха съпричастни към тези изследвания. Сега Брокман иска всички да са съпричастни към изследванията на  OpenAI.

С надеждата да ускорят тази динамика, Брокман и компанията привлякоха други известни изследователи, включително Ян Гудфелоу, още един старши научен сътрудник от екипа на Google Brain. „Особеността на PARC бе в това, че те събраха куп умни хора и ги предоставиха един на друг. На всички е необходима обща цел без централизиран  контрол“, казва Брокман.

Директорът в PARC XEROX Боб Тейлър провежда периодични неформални срещи в тази конферентна зала- „барбарон“, където екипът представя новите идеи.

Отказът от контрол е същността на идеята за отворените кодове. Ако достатъчно хора положат усилия за постигане на общата цел, крайният резултат ще победи всичко, което е измислено тайно. Но ако изкуственият интелект стане толкова могъщ, както ни обещават, то това уравнение ще се промени. За начало трябва да се убедим, че новият изкуствен интелект ще се придържа към същите идеали, които са довели до създаването му. Мъск, Олтман и Брокман разчитат на своята вяра в мъдростта на тълпата. Но ако са окажат прави, то един ден тълпата ще се състои не само от хора.

Превод: Memoria de futuro

Източник: Wired Magazine

   АКО МЕМОРИЯ Е ПОЛЕЗНА ЗА ВАС, ПОДКРЕПЕТЕ НИ ТУК

 Или станете наши приятели във ФЕЙСБУК