По нашему мнению, как широкая общественность, так и многие эксперты до сих пор недооценивают ключевые аспекты новой эры ИИ, которая уже наступила. Развитие систем ИИ и человеческие реакции на это развитие способны радикально трансформировать:
• наше восприятие реальности и истины;
• сам процесс познания;
• биологическую эволюцию человека;
• основы дипломатии;
• всю международную систему в ее нынешнем виде.
Эти вопросы станут определяющими в ближайшие десятилетия и неизбежно вызовут глубинную тревогу у ключевых игроков во всех сферах.
Новейшие достижения ИИ, какое бы мощное впечатление они ни производили, впоследствии покажутся нам скромными, поскольку его способности будут расти ускоряющимися темпами. Ресурсы, о которых мы еще не догадываемся, войдут в нашу повседневную жизнь. Системы будущего откроют путь к масштабным – и во многом благотворным – преобразованиям: они помогут сохранить здоровье людей и повысить качество жизни.
Однако эти возможности останутся неотделимыми от техногенных рисков и человеческого фактора; некоторые их таких опасностей уже известны, с другими нам еще предстоит столкнуться. Современные технологии уже демонстрируют модели поведения, которые не были предусмотрены их создателями – и даже находились за гранью их ожиданий. И эта тенденция, судя по всему, будет только усиливаться. Каждый перспективный метод исследований – а их будет немало – может раскрыть неожиданные возможности. Окажутся ли они в итоге понятными и полезными для человечества – вопрос открытый.
Создается впечатление, что ИИ будто бы сжимает наши временные рамки. Объекты будущего словно становятся ближе, чем кажется. Достаточно привести пример: совсем скоро появятся машины, способные самостоятельно формулировать для себя цели и задачи. Если мы хотим успевать справляться с сопутствующими рисками, мы обязаны реагировать и действовать в кратчайшие возможные сроки. Понимая всю значимость и срочность предстоящей работы, мы рассматриваем лишь отдельные ее аспекты.
По мере распространения «партнерских отношений» между человеком и машиной, людям придется определять характер такого взаимодействия. Ответы могут быть продиктованы логикой безопасности и эффективности, выведены из анализа исторического опыта или почерпнуты из религиозных источников. Каждому человеку, нации, культуре и конфессии предстоит определить: существуют ли границы влияния ИИ на истину? допустимо ли, чтобы ИИ стал посредником между людьми и реальностью? Таким образом, предстоит выбрать между:
1) сохранением традиционной роли человеческой деятельности (пусть и с признанием лидерства ИИ в новых сферах познания);
2) сознательным отказом от ограничений биологического интеллекта в пользу трансформированного партнерства с ИИ на интеллектуальном поле.
Оставим ли мы за собой возможность самим определять собственные цели, относясь к ИИ как к инструменту для их достижения, или в какой-то степени позволим ИИ заниматься целеполаганием за нас? Нам необходимо как можно скорее выработать ясное, соответствующее нашему времени и устойчивое определение человеческого достоинства – такое, которое могло бы стать философским ориентиром для принимаемых решений в ближайшие десятилетия.
По нашему мнению, возникновение ИИ поставило под сомнение саму возможность будущего человечества. Чуть позже мы подробнее рассмотрим идею, что по мере развития ИИ – с его постоянно растущими возможностями и нечеловеческой скоростью принятия решений – традиционные методы регулирования утратят свою эффективность. Требуется немедленная разработка принципиально новых методов контроля. Научному сообществу критически важно создать технические стандарты встроенной безопасности для ИИ. Одновременно государства должны срочно согласовать международные нормы, учредить органы надзора, разработать протоколы реагирования на кризисные ситуации. Особую сложность представляет двойное согласование – технических параметров и этических норм. Кроме того, необходимо будет переосмыслить дипломатические взаимоотношения в новую эпоху.
Доктор Генри Киссинджер, один из соавторов этой книги, скрупулезно разъяснял нам суть последней из задач, указанных выше, в то время как мы, занимая в свое время руководящие посты в компаниях Microsoft и Google, консультировали его по существу первой задачи. Крейг Манди являлся главным представителем Microsoft по вопросам технологической политики в Вашингтоне и зарубежных правительствах, одновременно курируя Microsoft Research[8], а в последнее время консультировал руководство исследовательской организации OpenAI. Эрик Шмидт в течение десяти лет возглавлял компанию Google, а покинув этот пост, следующее десятилетие посвятил, среди прочего, продвижению инициатив по расширению возможностей для талантливых молодых людей и развитию междисциплинарных исследований на стыке технологий, филантропии и безопасности с целью защиты человечества.
Очевидная актуальность перечисленных выше проблем привела нас к однозначному выводу: человечеству необходимо перейти от тревожного ожидания глобального кризиса к упреждающему решению этих проблем.
Хотя безопасность человека – важнейший компонент ответа на вызовы ИИ, она не покроет весь спектр проблем, порождаемых этой технологией. Эпоха ИИ неизбежно изменит человечество. Остается лишь вопрос: будем ли мы – и в какой мере – стремиться сохранить контроль над ходом этих преобразований?
Часть I. Начало
Глава 1. Открытия
Способность совершать открытия – пожалуй, самая удивительная черта человечества. Когда любопытство ведет нас вперед, а мир раскрывает свои чудеса, мы обретаем возможность заполнить внутреннюю пустоту, превращая вопросы в ответы. Исследовательский дух неотделим от нашей сущности, и потому, несмотря на все опасности, мы продолжаем идти по бесконечно ветвящимся тропам познания.
История освоения окружающего мира – это летопись невероятной отваги, проявленной вопреки всем рискам и смертельным опасностям. Немудрено, что группам смельчаков, пускавшимся в такие авантюры, приходилось постоянно бороться за собственную жизнь. Так, в начале XVI века кругосветное плавание Фердинанда Магеллана стало трехлетней одиссеей, наполненной насилием, голодом и смертью. Зато Магеллану удалось впервые проложить курс вокруг земного шара. В ходе своего плавания он побил рекорд выносливости в открытом море, установил истинные размеры планеты, а в контексте европейского колониализма – заложил основы глобального социального и экономического обмена.
Моряки Магеллана хорошо знали, сколь высок был риск крушения. Если представление о плоской Земле уже и подвергалось сомнениям, то ее шарообразная форма до сих пор оставалась неподтвержденной, и мысль о «крае света» все еще пугала многих на борту.
И самому Магеллану, и его матросам было понятно, что любое опрометчивое предположение может в конечном итоге стоить очень дорого. Так оно и случилось: их ошибка привела к тяжелым последствиям. Они допустили критический просчет в определении сроков плавания и необходимых запасов провизии, проигнорировали угрозу массовых отравлений и потенциальные серьезные повреждения судов. Флотилия Магеллана состояла из пяти кораблей с экипажем из 270 человек, но в испанский порт вернулось лишь одно судно с восемнадцатью изможденными моряками, выжившими по чистой случайности. Самого капитана среди них не было – он погиб вдали от родины, сраженный отравленной стрелой, которая пронзила его ногу[9].
Четыре столетия спустя после плавания Магеллана карта