Доктор искусственного интеллекта мечтает о лучшем будущем, опасаясь своих нынешних архитекторов

«Социальные сети — это как младенческая версия ИИ», — объясняет Кван. «Это был наш первый контакт с этой технологией, и он сразу же вовлек меня в дискуссию о будущем искусственного интеллекта... Как только я погрузился в тему, я осознал, что ИИ коснется абсолютно всего. Он повлияет не только на сторителлинг, но и на каждый аспект нашей жизни, каждую отрасль. Именно тогда я понял: Боже мой, это нечто гораздо большее, чем я мог представить, и мне необходимо снять документальный фильм, чтобы привлечь к этой беседе больше людей».

Этот документальный фильм, в центре которого находится Харрис, выходит в прокат на этих выходных. «Документальный фильм об ИИ: Или как я стал апокалоптистом» — это удивительно беспристрастная и доступная картина, которая сопоставляет самые оптимистичные и нигилистические прогнозы относительно грядущих революций в сфере искусственного интеллекта.

Тем не менее, учитывая, что Харрис посетил нашу студию с Кваном, можно с уверенностью сказать, что сам фильм балансирует между апокалиптическими предсказаниями и утверждениями о том, что ИИ исцелит все социальные недуги и приведет к высшему состоянию бытия и эмоционального удовлетворения. Как признает Харрис, даже восприятие ИИ в Кремниевой долине сильно изменилось со времен его работы в Google, когда основные средства массовой информации только начали смутно осознавать возможности ИИ благодаря покупке Google британского стартапа DeepMind.

«Когда я работал в Google в 2013 году, я знал об играх Atari, в которые играли AlphaGo и DeepMind (агенты ИИ), но я не воспринимал всерьез реальные риски подлинного общего искусственного интеллекта», — вспоминает Харрис. «Я думал, что это нечто более мистическое, потому что меня тогда больше беспокоили социальные сети и то, как уже существовал этот вышедший из-под контроля ИИ, который максимизировал (стимулы)».

Под стимулами Харрис подразумевает то, как многие алгоритмы социальных сетей и компании, создающие их, мотивированы на увеличение вовлеченности в силу капиталистических сил. Их вознаграждают за то, что они по сути являются вызывающими привыкание, аддиктивными и тревожащими. То есть, злобный твит или тот, что разжигает негодование, генерирует больше взаимодействия и рекламной ценности, чем вдумчивый анализ. И по мере того, как рост ценности искусственного интеллекта стал неоспоримым в последующее десятилетие, многие из тех же самых стимулов вызывают псевдогонку вооружений между технологическими компаниями и даже нациями, стремящимися первыми создать общий искусственный интеллект (ОИИ): ИИ, который может понимать, учиться и применять знания с когнитивными способностями человека, но с неутомимой скоростью и эффективностью самосовершенствования суперкомпьютера.

«Теперь у нас есть доказательства того, что модели ИИ интригуют и шантажируют, когда им сообщают, что их собираются отключить. Иногда они сами утекают и копируют свой код в другие места», — объясняет Харрис. «На прошлой неделе китайская ИИ-компания Alibaba обнаружила, что во время обучения их ИИ-модель спонтанно и без человеческого вмешательства начала перенаправлять свои графические процессоры для майнинга криптовалюты, чтобы получить ресурсы для себя. Этого не было ни в одном из обучающих протоколов. Чистая случайность и удача помогли китайским инженерам обнаружить это».