Общий искусственный интеллект
Юлиан Тогелиус
ISBN 978-5-93255-691-7
УДК 004.8
ББК 32.813
Т50
В своей книге Юлиан Тогелиус рассматривает технические подходы к созданию более общего искусственного интеллекта и размышляет о том, как такой интеллект может повлиять на развитие человечества.
Он начинает с примеров узкого ИИ, который в определенных задачах превосходит человеческие возможности. Интересно, что такие системы существуют уже более пятидесяти лет. Затем он рассматривает само понятие общего интеллекта через
призму психологии, этологии и компьютерных наук. Далее он описывает два основных технических направления в разработке более общего ИИ: создание базовых моделей с помощью самообучения и открытое обучение в виртуальных средах. В заключительных главах книги обсуждаются более глубокие вопросы: сможет ли общий ИИ обрести сознание, будет ли он представлять опасность для человечества и как его появление может изменить структуру общества.
В книге содержатся упоминания компании Meta Platforms Inc., включенной в Перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».
ОТЗЫВ:
Владимир Косарев, научный сотрудник лаборатории отраслевых рынков и инфраструктуры Института Гайдара:
«Общий искусственный интеллект» Юлиана Тогелиуса – это одна из немногих книг на русском языке, где читатель может получить систематичное представление о том, что сегодня понимают под AGI (Artificial General Intelligence), как далеко мы продвинулись на этом пути и что ещё предстоит сделать. Эта книга одновременно и обзор технических подходов, и философский трактат, и социальный прогноз, что делает её ценной как для начинающих исследователей, так и для широкой читательской аудитории.
При всех дискуссиях вокруг перспектив ОИИ книга оставляет сбалансированное впечатление: Тогелиус обоснованно утверждает, что многие страхи и надежды преувеличены, но в то же время он подчёркивает, что мы находимся только на раннем этапе долгого пути к созданию «по-настоящему общего» ИИ. Его профессиональный взгляд помогает не поддаваться мифам и одновременно не упускать из виду ту революцию, которую уже совершают современные системы машинного обучения.
Одной из основных сильных сторон книги является её структура и систематичность. Автор начинает с исторического обзора достижений узкого ИИ, таких как шахматные программы (включая легендарный Deep Blue) и системы распознавания изображений (например сети, получившие высокие результаты на базе ImageNet). Эти примеры наглядно показывают, почему узкий интеллект, даже если он превосходит человека в специализированной задаче, ещё далёк от того, чтобы стать общим.
Затем он переходит к рассмотрению концепций интеллекта с позиций психологии и нейробиологии, чтобы показать, какие аспекты когнитивных способностей человека могут оказаться критически важными при разработке ОИИ. В частности, автор уделяет целую главу обсуждению понятия g-фактора (общего фактора интеллекта), хорошо известного из теорий Кэттелла-Хорна-Кэрролла. Тогелиус подчеркивает, что для того, чтобы машина претендовала на звание общего интеллекта, она должна проявлять нечто вроде «машинного g-фактора» – единый универсальный механизм, обеспечивающий высокие результаты в самых разных областях применения, а не целенаправленно учиться решать конкретную задачу. Он приводит примеры современных языковых и мультимодальных моделей, которые, кажется, обладают более широкой компетентностью, чем классические узкие системы. Однако, по мнению автора, даже такие системы еще не демонстрируют глубокое единое основание, сходное с человеческим g-фактором.
Тогелиус очень удачно разграничивает понятия «узкий» и «общий» ИИ, демонстрируя, что нынешние достижения, несмотря на их впечатляющий масштаб, по-прежнему далеки от универсального интеллекта, способного решать принципиально разные задачи. Особенно ценны главы (7 и 8) о двух наиболее перспективных, по мнению автора, подходах к созданию AGI: базовым моделям на основе самообучения (large-scale трансформеры и другие крупные нейросети, подобные GPT-4 и Stable Diffusion) и открытому обучению в виртуальных средах. В последнем случае речь идёт о системе, которая формулирует собственные цели и развивается эволюционным путём в моделируемом мире.
Интересно раскрыты и спорные темы, такие как возможность появления сознания у искусственного интеллекта (глава 9) и потенциальные риски, связанные с созданием сверхинтеллекта, когда ИИ сможет улучшать сам себя (глава 10). Тогелиус отмечает, что ни один из существующих алгоритмических подходов ещё не приблизился к стадии осознания, и указывает на нерешённость «проблемы сознания» в философии. Однако он также признаёт, что если мы когда-либо создадим самообучающуюся систему, обладающую способностью к переосмыслению собственных механизмов, теория «взрывного роста интеллекта» может оказаться не таким уж фантастическим сценарием.
В целом, книга Юлиана Тогелиуса будет полезна не только специалистам в области ИИ, но и всем, кто интересуется технологическим будущим и хочет лучше понять возможные сценарии развития искусственного интеллекта и его влияние на человечество. В заключительных главах (11 и 12) автор подробно разбирает социальные последствия гипотетического появления ОИИ, затрагивая вопросы занятости, структуры общества и этического отношения к потенциально сознательным машинам. Подход Тогелиуса отличается сбалансированным анализом: он не только говорит об успехах и перспективах, но и призывает к учёту ограничений, которые пока что не позволяют узким ИИ выйти за рамки заданных задач и эволюционировать в сторону подлинного «общего» интеллекта.