В Бъркли, Калифорния, съществува малка, но влиятелна общност от изследователи и технологични специалисти, които от години обсъждат един от най-мрачните сценарии около развитието на изкуствения интелект: възможността бъдещи AI системи да станат толкова мощни, че хората да загубят контрола над тях.

В центъра на тази общност е Constellation – пространство в Бъркли, където се събират хора, работещи по въпросите на AI safety и т.нар. alignment – разработването на системи, чието поведение остава съобразено с човешките цели и ограничения. Именно там се провеждат вечери, срещи и дискусии за потенциалните рискове от развитието на изкуствения интелект. Според източници на The Wall Street Journal служители на Anthropic също използват пространство там.

Според разследване на “The Wall Street Journal” хората, които днес са наричани „doomers“, отдавна обсъждат сценарии, които преди години са изглеждали крайни – от загуба на контрол върху AI до потенциален цивилизационен колапс.

В тази среда са обсъждани дори практически планове за оцеляване при най-лошия сценарий – закупуване на отдалечени острови, запасяване с йодни таблетки и използване на защитени от електромагнитни въздействия убежища. На събитие през 2022 г. дори е сервиран коктейл с името „Death With Dignity“, препращащо към песимистичните представи за бъдещето на човечеството, съобщава “The Wall Street Journal”.

Но влиянието на тази общност не остава в рамките на неформални срещи и интернет дискусии.

“The Wall Street Journal” пише, че нейни представители се оказват сред ранните служители и идеолози около OpenAI и Anthropic – две от компаниите, които днес са в центъра на глобалната надпревара за създаване на все по-мощни AI системи. Именно идеята, че развитието на изкуствения интелект трябва да бъде придружено от сериозни мерки за безопасност, е сред причините за създаването на тези организации. 

“ The Wall Street Journal” в статията си обръща специално внимание на Anthropic – компанията, създадена от бивши служители на OpenAI, сред които Дарио и Даниела Амодей.

Според публикацията вътре в компанията съществува частен Slack канал, в който служители обсъждат сценарии за катастрофални последици от развитието на AI. Част от тях използват и фразата „Things will never be chill again“ – „Нещата никога повече няма да са спокойни“ – като своеобразен символ на убеждението, че светът навлиза в период на фундаментална технологична промяна. 

В същото време Anthropic се превръща в един от най-големите играчи на пазара за генеративен AI. Така се появява парадоксът, който стои в основата на материала на “Wall Street Journal”: хора, които най-силно се страхуват от потенциалните опасности на мощния изкуствен интелект, участват и в създаването на самата технология.

Според  “The Wall Street Journal” корените на тази общност са свързани с рационалисткото движение и философията на ефективния алтруизъм.

Идеята на ефективния алтруизъм е ограничените ресурси да бъдат насочвани към каузи, при които могат да доведат до най-голям положителен ефект. В част от тази общност постепенно се налага виждането, че предотвратяването на катастрофален AI сценарий може да бъде сред най-важните задачи, пред които е изправено човечеството.

Тази мрежа впоследствие придобива и сериозни финансови ресурси. Сред хората, свързани с нея, е и Сам Банкман-Фрийд, основателят на FTX, който в момента излежава 25-годишна присъда. “The Wall Street Journal” отбелязва, че представители на движението впоследствие са се дистанцирали от него след срива на криптоимперията му. 

Темата за риска от AI получи допълнително внимание през септември след напускането на изследователя на Anthropic Джейкъб Коксън. 

Неговата оставка предизвика публична дискусия за това доколко бързото развитие на AI може да бъде контролирано. Случаят е разглеждан и от други медии, но “Wall Street Journal” го поставя в по-широкия контекст на общността, която от години предупреждава за подобни рискове. 

За хората около Constellation това не е нова тема. Според “The Wall Street Journal” част от тях обсъждат опасността от неконтролируем AI повече от десетилетие.

Проблемът става още по-сложен заради темпото, с което се развива индустрията.

OpenAI, Anthropic и останалите водещи компании инвестират огромни средства в разработването на по-мощни модели и AI агенти. С увеличаването на възможностите им се увеличава и въпросът дали съществува надежден начин за ограничаване на тяхното поведение.

Точно тук се намира основното противоречие, описано от Wall Street Journal: едни и същи хора могат едновременно да виждат AI като най-голямата технологична възможност и като потенциален екзистенциален риск.

Някои от най-ранните служители на Anthropic дори са обсъждали закупуването на земя в отдалечени райони на САЩ, където биха могли да се преместят при най-лош сценарий.

Материалът на “The Wall Street Journal” показва възможната опасност и  риска, които вече са проникнали в самата индустрия, която създава най-мощните AI системи.

Хора, които преди години са били възприемани като крайни песимисти, днес работят в компании с милиарди долари капитал и участват в решенията за развитието на водещи технологии.

И именно това прави историята около Constellation и Anthropic толкова показателна: страхът от бъдещето на изкуствения интелект вече не идва само от външни критици на технологията. Част от хората, които я изграждат, също се страхуват от това докъде може да стигне.

Ето линк към оригиналната статия на “The Wall Street Journal”⬇️

https://www.wsj.com/tech/ai/ai-safety-effective-altruism-anthropic-164b9d05?utm_source=chatgpt.com

Присъединете се към нашата общност в Telegram ТУК  https://t.me/krasivplovdiv