AGI: риски, этика и будущее искусственного интеллекта
- 29 июл.
- 2 мин. чтения
Обновлено: 31 июл.
Подкаст «Ноосфера» с Лораном Джейкобсом. Глава 5
В пятой главе подкаста «Суть в том, что» (проект «Ноосфера») основатель и руководитель iPavlov Лоран Джейкобс размышляет о том, как концепция AGI (общий искусственный интеллект) изменит общество, бизнес и безопасность цифрового мира.
AGI и концепция полной автономии
Обсуждая эволюцию технологических систем, кандидат физико-математических наук Лоран Джейкобс обращает внимание на AGI — сверхразум, способный к принятию самостоятельных решений. В отличие от узких алгоритмов, такая система обладает собственной субъектностью и полной автономией.
«Сверхразум или AGI — это система, способная на абсолютную автономию. Говоря словами Алана Тюринга, алгоритм заходит на кухню, варит кофе и не прощается, потому что сам так решил», — объясняет технологический предприниматель Лоран Джейкобс.
В долгосрочной перспективе компьютерные науки, материалы, физика и математические модели объединятся. Развивая такие направления, как обработка естественного языка и большие языковые модели, современные цифровые сервисы и голосовые помощники готовят почву для экономики будущего, где традиционные финансовые институты утратят смысл.
Опасный мир и вопросы социальной ответственности
Все фундаментальные открытия — от ядерных и космических программ до ИИ — создаются в рамках существующего общества и часто применяются в военных и коммерческих целях. Главный вызов состоит в том, чтобы направить эти ресурсы на развитие человечества.
Создание сверхмощных инженерных систем неизбежно повышает уровень угроз. Проводя аналогию с гибелью зрителей на автогонках Феррари, основатель и руководитель iPavlov подчёркивает: масштабные технологии требуют особого контроля.
«Когда меня спрашивают, каким будет мир в обилии таких сверхтехнологий, первая ассоциация — опасный. Искусственным интеллектом можно управлять планетой, а значит, эти риски требуют огромной ответственности», — отмечает эксперт с международным опытом в сфере ИИ.
Алгоритмы социальных сетей и проблема коммерциализации
Современные пользовательские сервисы активно внедряют технологии машинного обучения для удержания внимания, что особенно сильно влияет на подростков. Из-за доминирования фактора коммерческой выгоды создателям сложно сохранять высокий уровень контроля над тем, как рынок использует их продукт.
Как добавляет лауреат Национальной премии в сфере искусственного интеллекта Лоран В. Джейкобс, к. ф.-м. н., создатели сложных систем должны руководствоваться высокой моральной ответственностью при запуске цифровых решений.
