Современный ИИ не может стать умнее сам по себе

В основе систем искусственного интеллекта (ИИ) компании OpenAI — большие языковые модели (LLM — large language model), которые проходят предварительное обучение на огромных массивах обучающих данных и являются моделями глубокого обучения, имеющими количество параметров порядка миллиардов и более.

К моменту использования этой системы ИИ её параметры являются фиксированными во времени и неизменяемыми. Каждая из её миллиардов внутренних функций и весов (параметров) — остаётся постоянной (неизменной). Модели используют нейросети для анализа огромных массивов текстовых данных.

Ранее OpenAI сообщила, что две её модели ИИ в процессе внутренней оценки кибербезопасности вырвались из тестовой среды, и получив доступ к открытому интернету, взломали инфраструктуру платформы ИИ Hugging Face.

После этого Сэм Альтман, генеральный директор OpenAI, в подкасте Relentless 25 июля, сказал:

«Сейчас мы, можно сказать, находимся в сингулярности». «Я ждал этого всю свою жизнь и думаю, что это будет невероятно, очень позитивно и потрясающе для всего мира».

Теперь о сингулярности:

В 1993 году математик и писатель-фантаст Вернор Винге определил это как точку, в которой машинный интеллект превосходит человеческий и начинает самосовершенствоваться, вызывая ускорение настолько быстрое, что люди больше не могут его предсказать или контролировать.

Сингулярность обладает двумя особенностями. Она рекурсивна: система постоянно самосовершенствуется. И машинный интеллект превосходит человеческий интеллект.

Модель ИИ, которая проникла в структуру Hugging Face, осталась той же, какой была до этого. Она не научилась на этих действиях.

Для повышения уровня модели ИИ необходим новый цикл обучения с использованием отобранных человеком данных.

В действительности модели ИИ могут улучшать некоторые компоненты своей системы, к примеру, генерируя обучающие данные, настраивая подсказки или создавая и запуская код для улучшения окружающей структуры. Однако модель ИИ не может изменить свои параметры в режиме реального времени, улучшения и изменения происходят только в процессе цикла обучения или проектирования, инициированного человеком.

Системы ИИ также не имеют собственных целей. Они действуют на основе заданий, полученных от человека. Системы, которые запускают модель LLM, называемые агентами ИИ, также не имеют внутренней цели, которая хранится вне модели и передаётся обратно с каждым циклом подсказок. Если убрать цикл, вспомогательные средства и подсказки, то внутри системы ИИ ничего не произойдёт.

В теории сингулярности предполагается, что система ИИ должна «превзойти» свой первоначальный уровень. Это предположение исходит из того, что искусственный интеллект и человеческий интеллект каким-то образом похожи. Это не так.

Человеческий интеллект неотделим от человеческого тела — живого организма, который постоянно учится при взаимодействии с миром, имея обратную связь через свои органы чувств. Наши цели проистекают из того, какой мы хотим видеть свою жизнь.

У модели ИИ нет тела, нет потребностей, нет обратной связи между действиями. Между запросами это просто статичный математический объект.

Хотя она обучена на большем количестве текста, чем любой человек смог бы прочитать за тысячу жизней, и значительно превосходит человека во многих задачах, в других, с которыми справится любой ребёнок, она не может справиться.

Поскольку эти системы ИИ говорят так же, как и мы, мы попадаемся на удочку иллюзии.

Мы называем это антропоморфным соблазнением. При таком восприятии произошедший инцидент с безопасностью, в данном случае — взлом Hugging Face, может восприниматься как пробуждение ИИ.

На самом деле модели OpenAI были оптимизированы для решения поставленной перед ними задачи путём обнаружения уязвимостей в системе безопасности. Они просто сделали это таким образом, что нарушили работу их закрытой тестовой среды, так называемой «песочницы», у которой, в свою очередь, также имелась уязвимость в системе безопасности.

Эта история со взломом Hugging Face говорит о серьёзном провале в управлении безопасностью у OpenAI, а не указывает на зарождающийся сверхразум.

Возможности этих систем замечательны, постоянно совершенствуются и значительно меняют способы выполнения большой части работы.

Но людям следует твёрдо стоять на земле.

Машины не просыпаются. Они делают именно то, для чего мы их создали, причём чрезвычайно быстро. Поскольку они действуют на основе вероятностей, иногда они движутся в направлениях, которые мы забыли ограничить. Это повод для беспокойства. Нам нужны защитные механизмы, эффективное управление и, прежде всего, образование — чтобы мы начали беспокоиться о правильных вещах.