Виктор Хесоям: будущее с искусственным интеллектом

«После запуска GPT-5, чат-бот обретёт разум и станет неотличим от человека». «Возможный уничтожитель человечества GPT-5 будет представлен в декабре». «GPT-5 после запуска разовьётся до общего искусственного интеллекта». Такими заголовками больше недели пестрит интернет, сколько в них правды? Виктор Хесоям расскажет нам в этой статье.

Масло в огонь подливают техногиганты, исследователи и писатели. Вы наверняка слышали, как Илон Маск и сооснователь Apple Стив Возняк призвали остановить разработки искусственного интеллекта старше GPT-4, чтобы успеть нас обезопасить. Однако Билл Гейтс сказал, что это никого не спасет. Писатель Юваль Ной Харари, изучающий прошлое и будущее человечества, опубликовал в Нью-Йорк Таймс свое паническое обращение, в котором заявил, что, цитата, «если мы не контролируем искусственный интеллект, он будет контролировать нас». Харари объяснил свою позицию так, опять же цитируем. «Вначале было слово. Язык — это операционная система человеческой культуры. Овладев языком, искусственный интеллект захватит главный ключ к управлению нашей цивилизацией». 

Учитывая дипфейки и нашу зависимость от интернета и социальных сетей, доля правды в этих опасениях есть. Вопрос — насколько она велика? Каковы реальные возможности, пределы и ограничения искусственного интеллекта в общем и чат GPT в частности? Как вообще устроен и работает искусственный интеллект, и что он принесет человечеству? Будет ли он причиной конца человечества или даст толчок к новому витку эволюции человеческой расы, став нашим симбиотом? Возможности, перспективы и реальные риски технологии искусственного интеллекта разберем в этой статье. 

Виктор Хесоям: будущее с искусственным интеллектом

Что такое искусственный интеллект?

Искусственный интеллект является самой важной технологией настоящего и будущего — отмечает Виктор Хесоям. Игнорировать его сегодня всё равно, что не замечать пожар в комнате. Недавно Стэнфорд выпустил AI Index Report 2023, где проанализировал текущее состояние индустрии искусственного интеллекта. Самое интересное, в 2022 искусственный интеллект получил 100 миллиардов долларов инвестиций и реально ускорил научный прогресс в разных областях. В бизнесе ИИ уже внедрили в работу порядка 60% компаний, что ускорило их развитие и повысило конкурентоспособность.

Как следствие, спецы по искусственному интеллекту сегодня нужны всем во всех секторах экономики, при этом за последние 10 лет случаи неэтичного использования ИИ выросли минимум в 25 раз. В реальности технологии распространяются повсеместно. ИИ сегодня есть и в поисковике браузера, которым вы пользуетесь, и в вашем телефоне, умной колонке, гаджетах умного дома, системах распознавания лиц уличных камер, гаджетах, отслеживающих здоровье, обучающих приложениях и играх, системах активной помощи водителю, беспилотниках и так далее. Почти что до бесконечности. 

Но начнем сначала. Что такое искусственный интеллект? Это широкая область наук и технологий, которые занимаются автоматизацией решения интеллектуальных задач. Машина при этом имитирует поведение человека и обучается на полученной информации. Существует множество методов обучения искусственного интеллекта. Основными являются занятия с учителем и без него. Обучение с учителем — это когда нейросеть, как эталон, получает размеченные человеком данные и далее старается воспроизвести его решения. Сюда относится и обучение с подкреплением, которое часто применяется для обучения роботов. Второй метод — обучение без учителя. Он предполагает обучение нейросетей на неразмеченных человеком данных.

Между этими крайностями есть множество подвидов обучения. Например, популярный сегодня метод самообучения, когда ИИ получает данные, неразмеченные, но имеющие определенную структуру. Например, текст. В связанном тексте последовательность букв и слов не случайна, что даёт возможность большой модели искусственного интеллекта выявить определённые закономерности и научиться предсказывать следующие буквы или слова, то же самое касается картинок и кода. В узких задачах, таких как отдельные игры, манипуляции, распознавание рентгеновских снимков, ИИ превзошёл нас давно и безнадёжно. Но это всё время был узкий искусственный интеллект, который не способен выполнять никакие задачи, кроме тех, которым его обучили, поэтому и бояться его не стоило. Однако последнее время всё меняется. 

Виктор Хесоям: будущее с искусственным интеллектом

Алгоритмы работы ИИ

Рассмотрим в общих чертах, как работает искусственный интеллект и чем он отличается от нашего мозга. По сути, ИИ просто производит вычисления гигантского уравнения с множеством переменных. Алгоритмы искусственного интеллекта обычно основаны на математических моделях и вычислительных структурах, таких как искусственные нейросети, деревья решений или алгоритмы обучения с подкреплением. Живой мозг, с другой стороны, состоит из сложной сети биологических нейронов, связанных между собой синапсами и обменивающихся электрохимическими сигналами. В среднем в мозге человека 85 миллиардов нейронов и до квадриллиона синапсов. Это чрезвычайно мощная и энергоэффективная вычислительная система. Сопоставимых с мозгом интегральных схем нет и в ближайшие годы не предвидится — отмечает Виктор Хесоям.

У нашего мозга есть еще одно преимущество – универсальность. Мы можем решать множество разнообразных задач, легко адаптируемся к изменяющимся условиям и подключаем к решению свой эмоциональный интеллект, когда это необходимо. Но и прогресс в области искусственного интеллекта не стоит на месте. Сегодня активно предпринимаются шаги в сторону создания общего искусственного интеллекта. К ним, в частности, относятся создания Foundation Models. Они представляют собой набор типовых архитектур нейронных сетей, обученных на огромных массивах данных. Такие модели можно адаптировать к широкому кругу конкретных задач, для которых изначально они не создавались. Описание же задачи происходит через демонстрацию примеров. 

К такого рода моделям и относится большая языковая модель GPT. В чём конкретно её суперсила? Почему именно она вызвала панику у множества людей и насколько реально то, что она может развиться в общий искусственный интеллект? Об этом, а также о реальных угрозах для человечества поинтересуемся у специалиста по искусственному интеллекту и машинному обучению. 

Виктор Хесоям: будущее с искусственным интеллектом

Какие угрозы несет в себе развитие ИИ?

Виктор Хесоям указывает, что если вы обучили модель продолжать текст осмысленным образом, то, потенциально, она сможет решить любую интеллектуальную задачу, которую можно представить как продолжение некоего текста. Вот почему говорят о том, что фундаментальные модели, подобные GPT, движутся в сторону человеческого интеллекта. Однако те модели, которые создают специалисты по машинному обучению, в наши дни пока ещё далеки от такой степени универсальности. Тем не менее, прогресс в разработке таких моделей в последние годы оказался столь впечатляющим, что многие исследователи стали рассматривать их в качестве серьёзного движения в сторону общего искусственного интеллекта. Но если до общего ИИ ещё далеко, откуда тогда паника? 

По мнению Виктора, вся эта шумиха искусственная и вызвана необходимостью, а вернее задачами венчурной экономики, в которой ценностью часто является не реальное положение дел, а ожидание людей их вера в будущий успех какого-либо проекта. Появление чат-GPT стало важным информационным событием, привлекшим много внимания, и теперь этим пытаются воспользоваться некоторые медийные личности для достижения собственных целей, распространения тех или иных идей, накопления социального капитала и тому подобное. Чем же на самом деле опасен чат-GPT в текущей и будущей версиях?

Отметим следующие реальные риски: риски технологической безработицы в связи с заменой людей в различных видах работ. Риски алгоритмической предвзятости, то есть наличие у моделей тех или иных предрассудков, что в случае массового применения моделей может создать проблемы для различных групп людей. Риски чрезмерного доверия моделям, когда люди будут полагаться на в действительности неточные советы моделей, в результате чего будет нанесен вред здоровью людей, финансовому благополучию и т.д. Риски, связанные с недобросовестным использованием моделей, например, применение их для мошеннических спам-рассылок. И наконец, риски распространения недостоверных сведений при массовом использовании генеративных моделей для создания медиаконтента. 

Виктор Хесоям: будущее с искусственным интеллектом

Как видите, захвата мира и уничтожения человечества пока не просматривается — отмечает Виктор Хесоям. А что в будущем? Где предел возможностей GPT? Сергей рассказал нам, что на сегодня у фундаментальных моделей искусственного интеллекта, подобных chat.gpt, есть целый ряд ограничений. Например, потребность в значительных вычислительных ресурсах. Ещё одна проблема — ограничения по длине контекста. Таким моделям трудно обработать объёмный текст, а значит, они могут выдать хороший короткий рассказ, но не способны написать роман.

Следующее ограничение — конечное количество шагов рассуждения, что мешает моделям выполнять многие нехитрые алгоритмы, например, арифметические действия с большими числами или сортировка больших списков. Также надо учитывать, что без дообучения знания таких моделей устаревает, а еще они могут ошибаться в фактах, откровенно фантазировать и заучивать многократно воспроизведенные в обучающих выборках клише. 

Как видите, до Skynet чат GPT ещё далековато. Но сможет ли она стать Skynet в будущем? До каких пределов можно развить GPT и модели такого типа? По словам Сергея Маркова, сегодня один из трендов развития генеративных сетей — создание мультимодальных моделей. Мультимодальность — это способность работать с разными модальностями информации, визуальной, звуковой и т.д., а также многозадачность и многоязычность.

Четвёртым измерением здесь может стать multi-embodiment, дословно «множественное воплощение», т.е. возможность применения модели для управления самыми разными агентами в виртуальном или физическом мирах. Также существует тренд в направлении увеличения размера моделей и роста общего уровня их т.н. интеллекта. К чему это в итоге приведёт? Сегодня этого никто не знает. 

Виктор Хесоям: будущее с искусственным интеллектом

Симбиоз человека и ИИ

Виктор Хесоям отмечает, что развитие искусственного интеллекта имеет далеко идущие последствия для людей, и одно из самых обсуждаемых из них — возможность симбиоза человека и ИИ посредством нейрочипов либо других технологий. Возможно ли это, спросите вы? Вполне. И отчасти это уже происходит. Так, например, существуют протезы с искусственным интеллектом. Российская компания Motorica разработала новые датчики, которые точно передают движение каждой мышцы и сухожилия в систему принятия решения на основе искусственного интеллекта. Последнее заводит микродвигатели каждого пальца киберпротеза, позволяя выполнять точные манипуляции. Нейрочипы и другие интерфейсы мозг-компьютер уже позволяют управлять компьютерами и роботами силой мысли. 

Что ждать в будущем, когда нейрочип Илона Маска или его конкурентов действительно позволит объединить мозг с силой искусственного интеллекта?
Во-первых, это расширит наши когнитивные возможности. Искусственный интеллект усилит мозг, дав ему прямой онлайн доступ к огромным объемам информации, анализу данных в режиме реального времени и поддержке принятия решений, позволяя людям и делать более осознанный выбор, и мыслить более эффективно.

Во-вторых, мы определенно станем жить дольше, если ИИ сможет постоянно мониторить состояние нашего здоровья и на ранних стадиях диагностировать заболевания. Также искусственный интеллект сможет отслеживать и гасить аномальные активности мозга, поддерживать психическое здоровье, определять стресс, депрессию и, возможно, помогать с ними справляться.

В-третьих, искусственный интеллект сможет создавать персонализированные учебные процессы с учетом индивидуальных потребностей, что позволяет повысить эффективность обучения и развитие навыков. Это могло бы помочь людям адаптироваться к новым требованиям работы и поддерживать обучение на протяжении всей жизни.

В-четвертых, ИИ поможет восстанавливать не только движение парализованным людям, но и такие функции, как зрение, слух или речь. И, наконец, искусственный интеллект может выступать в качестве творческого партнёра, предлагая идеи, вдохновляя и даже создавая контент в таких областях, как музыка, искусство, литература, позволяя людям исследовать новые творческие возможности. 

Виктор Хесоям: будущее с искусственным интеллектом

Заключение

Не станем ли мы пленниками искусственного интеллекта, как опасается Юваль Харари? На сегодня у ИИ нет самосознания, собственной воли и злых намерений в отношении человека. Однако, обученная модель искусственного интеллекта может повторять ошибки учителя, а также его предвзятость. Что касается восстания роботов или интеллектуального прорыва, при котором ИИ резко станет умнее нас, это крайне маловероятные сценарии, в которых серьёзные эксперты не верят. На сегодня шансы уничтожить человечество гораздо выше у самого человека. Так же, как и вероятность ошибки при принятии многих решений. В этом плане искусственный интеллект может как раз повысить беспристрастность и безопасность многих систем, поэтому его запрет на самом деле человечеству не выгоден. 

В конечном итоге, как утверждает Виктор Хесоям, на сегодня опасность представляет не сам искусственный интеллект, а то, как его используют люди. Это как молоток в вашей руке. Сделаете ли вы с его помощью скворечник или нанесёте кому-то вред? Зависит полностью от вас. Но это же не повод запрещать молотки. Поэтому то, что необходимо сегодня, это не запрет GPT, а разработка норм и правил обучения и использования искусственного интеллекта.

talkpeople.ru