Основатель Meta изложил философию управления сверхинтеллектом, пообещав бесплатных персональных ИИ-агентов, контроль совета директоров за выпуском моделей и новый фонд для сообществ центров обработки данных.

🎧 Прослушайте эту статью.

аудио-миниатюра
Манифест Цукерберга об ИИ. Генеральный директор Meta обещает сделать сверхинтеллект доступным для каждого
0:00
/302.77

Марк Цукерберг опубликовал обширное философское эссе под названием «Будущее для всех: путь к позитивному будущему ИИ», в котором излагает видение компании Meta о том, как следует развивать и распространять искусственный сверхинтеллект. В эссе проводится четкое различие между его подходом и подходом конкурирующих лабораторий ИИ.

Главный аргумент: Распределяйте власть, а не концентрируйте её в руках

В своем эссе Цукерберг строится вокруг того, что он называет «определяющим вопросом» эпохи ИИ: будет ли сверхинтеллект централизован в руках нескольких институтов или распределен как инструмент расширения возможностей для всех? Он отвергает идею о том, что безопасность требует концентрации власти ИИ в руках небольшого числа «просвещенных» субъектов, утверждая, что история показывает, что концентрированная, бесконтрольная власть редко приводит к хорошим результатам. Вместо этого он предлагает трехчастную философию: расширение возможностей отдельных лиц как источник процветания, изобретение (а не автоматизация) как основная цель ИИ и конкурентный «баланс сил», подобный демократической системе сдержек и противовесов, как истинная основа безопасности.

Он прямо критикует распространенную среди других разработчиков ИИ риторику, полную «апокалипсиса», заявляя, что предупреждать о том, что ИИ уничтожит рабочие места и значимость человека, одновременно продолжая его разработку, — это противоречиво, и называет идею о том, что безопасность ИИ требует крайней концентрации власти, «по своей сути проблематичной»

Что именно строит Meta

В эссе перечислены несколько конкретных обязательств, которые, по словам компании Meta, она стремится выполнить:

• Персональный ИИ-агент для всех: круглосуточный помощник, который понимает ваши цели, управляет здоровьем, карьерой, финансами, отношениями и хобби, с надежной сквозной защитой конфиденциальности (сравнимой с шифрованием WhatsApp), так что даже Meta не сможет получить доступ к вашим данным. Он будет работать на разных устройствах, включая умные очки.
• Инструменты для творчества для обычных людей: Цукерберг приводит в пример свою 8-летнюю дочь, которая программирует и создает видеоролики, для чего раньше требовались профессиональные навыки, называя это «сверхспособностями изобретателя» для всех.
• Более предпринимательская экономика: благодаря снижению стоимости открытия бизнеса с помощью ИИ он прогнозирует рост числа компаний, экономический рост и, вопреки опасениям, увеличение занятости в долгосрочной перспективе.
• Бесплатное персонализированное обучение на уровне доктора наук для всех, направленное на выравнивание возможностей для студентов, чьи семьи могут и не могут позволить себе частных репетиторов.
• Научное ускорение, включая открытые биологические модели из Chan Zuckerberg Biohub, направленные на разработку лекарств, при этом Цукерберг подтверждает свою и Присциллы Чан цель — помочь «излечить или предотвратить все болезни в этом столетии».
• Бесплатный или недорогой доступ с динамической аукционной системой, призванной гарантировать минимально возможную цену за платный доступ к вычислительным ресурсам.

Прямое противодействие рискам

Вместо того чтобы избегать опасностей, связанных с ИИ, Цукерберг решает ряд из них напрямую:

• Рабочие места: Он утверждает, что нет правила, согласно которому автоматизация должна опережать рост квалификации людей, и предсказывает появление новых категорий профессий (таких как «персональные биологи» или «создатели миров»), повторяющих прошлые технологические преобразования.
• Центры обработки данных и сообщества: Meta запускает фонд «Будущее для всех», связанный с моделью «Общественного соглашения». В качестве примера он приводит округ Ричленд, штат Луизиана, где, по сообщениям, учителя в этом году получили бонусы в размере 50 000 долларов из налоговых поступлений, связанных с центром обработки данных Meta, а также новую программу обучения для специалистов рабочих профессий «Американская академия трудовых ресурсов». Meta также обязуется построить собственную энергетическую инфраструктуру и стать «водосберегающей», то есть к 2030 году восстанавливать больше воды, чем потреблять.
• Кибербезопасность и биотерроризм: Он утверждает, что широкое распространение возможностей защиты ИИ делает системы в целом более безопасными, и предлагает, чтобы передовые лаборатории делились контрольными точками промежуточного обучения моделей с правительством США, чтобы чиновники могли укреплять критическую инфраструктуру на ранних этапах, а не ждать публичного выпуска.
• Превышение полномочий правительства: Он обещает полностью приватный режим для персональных агентов ИИ, к которому даже Meta не сможет получить доступ, что преподносится как защита от слежки и тирании.
• Конкуренция США и Китая: Цукерберг называет ИИ «вероятно, самой конкурентной отраслью в истории», предупреждает, что даже месячная задержка в выпуске может уступить позиции геополитическим соперникам, и утверждает, что США должны быстрее наращивать энергетические мощности и мощности центров обработки данных (отмечая, что Китай, по сообщениям, вводит в эксплуатацию более 1 гигаватта ядерных мощностей каждые две недели), одновременно сохраняя экспортный контроль на чипы для зарубежных лабораторий.
• Экзистенциальный/сверхразумный риск: Он выступает против какой-либо одной «доброжелательной сверхразумной системы», вместо этого призывая к созданию множества конкурирующих систем ИИ, ориентированных на собственные цели отдельных пользователей, а не на ценности компании или правительства, в качестве реальной защиты.

Обязательство в области управления

Примечательно, что Цукерберг заявляет, что Meta предоставит своему независимому совету директоров полномочия утверждать критерии безопасности для выпуска моделей ИИ и проверять, соответствуют ли выпускаемые модели этим стандартам, что станет своего рода контролем над его собственным авторитетом как генерального директора, контролируемого основателем. Он также подтверждает, что Meta возобновит выпуск моделей ИИ с открытым исходным кодом «вскоре», теперь, когда Meta Superintelligence Labs начала работу, позиционируя открытый исходный код как важный инструмент предотвращения концентрации возможностей ИИ в руках нескольких компаний или правительств.