ИИ – и апокалипсис отменяется, но это не точно.

А что такое искусственный интеллект (он же ИИ)?

Сейчас этим термином называют вообще любую программно-автоматически работающую хрень. Умеет делать что-то сама – ооо! – все в ознобе, потеют и готовы присягнуть на верность раз и навсегда. На самом деле термин «искусственный интеллект» имеет вариативные проекции на уровни самосознания различных слоёв населения нашей общей экопланеты. Начиная от достаточно примитивных, описанных в интернет-педиях. Там ИИ, цитирую, это всего-то «свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Т.е., например, умение играть в шашки или шахматы в таком разрезе попадает под определение ИИ. Хотя такая программа не умеет вообще ничего больше – ни кататься на велосипеде, ни чистить картошку, ни управлять курьером по доставке пиццы.

Однако массовое [бес]сознание считает, что эти IT-новинки с «умным» функционалом и есть тот самый, описанный в голливудах, «цифровой умномозг», способный на всё и навсегда. И что очень скоро нам, всем млекопитающим, придётся опять прятаться по норам, как уже бывало в эпоху царства динозавров. Думаю, что это не так.

Современное массовое поверье о всесильном ИИ – всё это адский бред, примерно как ужас древних племён во время грозы и сверкания молний, поскольку это не[въе]бесные боги опять устроили разборки по причине своих божественных целей и мотиваций.

Нейросети, машинное обучение, онтологии, генеративный ИИ и разное прочее программируемое – это и есть современный уровень «цифрового интеллекта» и не более того. Это программы или программно-аппаратные системы, заточенные на решение каких-то конкретных задач, и тренирует их, и направляет, и подкручивает специальный человек-эксперт. И они нисколько не обещают универсальность – современные технологии этого просто не потянут!

Посему: вдохнули – выдохнули, всё и сейчас неплохо. А дальше будет тоже не хуже. Но на тему «ИИ» всё же давайте поговорим.

ИИ и массовые страхи

Широко шагающий по планете генеративный ИИ оказывает нервирующее воздействие даже на довольно разумных людей, которые от него пугаются – а зря. Это примерно как после появления первых самодвижущихся автомобилей лошади и кучера шарахались от безлошадных повозок. Не надо этого!

Но всё равно, когда мы сталкиваемся с тем, что железяка без видимых усилий может делать что-то быстрее и лучше нас, мы вспоминаем художественные произведения. Таких много – от Азимова («Три закона роботехники») и «Космической одиссеи-2001» – и далее до многочисленных «Терминаторов». Если же кто-то хочет окунуться в тему «ИИ-страхов» по полной программе, то вот вам «Зенитные кодексы Аль-Эфесби» и «iPhuck 10» от Пелевина.

И вот, начитавшиеся и насмотревшиеся разных анти– и противоутопий жители нашего общего социума волнуются и спрашивают, скоро ли наступят соответствующие ужасы.

Что могу сказать? Да, алгоритмы машинного обучения могут много что делать быстрее и лучше нас, кожаных мешков, которые отвлекаются, волнуются, ленятся, пишут любовные стихи или страдают несварением, хотят есть и спать – и всё это зачастую в рабочее время. В нашей компании такие технологии уже почти 20 лет решают практические задачи автоматизации исследования киберугроз. Если бы не машиннообучаемый «Автодятел», то для обработки такого же объема информации нам были бы нужны многие тысячи аналитиков, притом что сейчас в рабочей смене антивирусной лаборатории буквально пара человек.

Когда ждать настоящий ИИ в самом полном смысле, и уничтожит ли он нас?

Итак, вопрос, очень волнующий читательницу Марину Тю.! Ждёт ли нас в ближайшее время ИИ-апокалипсис? Хорошо, отвечаю! Кроме меня, на вопрос отвечают несколько коллег, мнение которых я ценю и уважаю.

Начнём с меня. Сразу предупреждаю: я не специалист по ИИ, ни узкий, ни широкий. У меня сложилось такое понимание:

1. Стоит ли ждать в ближайшие годы появления сильного (или общего) искусственного интеллекта (AGI, artificial general intelligence)?

Что мы называем «настоящим (сильным) ИИ»? Железяка уже тест Тюринга проходит, считает, рисует, стихи сочиняет, программирует, в шахматы играет, а всё равно – ОЧЕНЬ далеко не то. Здравого смысла не имеет, сознанием (и самосознанием) не обладает. Создать «сильный ИИ» сейчас невозможно, таких технологий нет, ни железа (столько видеокарт человечество наклепать не может физически), ни софта, ни понимания, как оно в принципе должно работать. И тот сегодняшний генеративный ИИ, что мы имеем, вероятно, – тупиковое направление с точки зрения создания ИИ человеческого уровня. В общем, это не проблема ни для нас, ни для наших детей.

2. Может ли искусственный интеллект уничтожить человечество?

Вероятность, что настоящий ИИ уничтожит человечество составляет 50% – ровно столько же, сколько и вероятность встретить на улице динозавра из анекдота. Может быть – уничтожит, а может быть, и нет. Если его когда-нибудь создадут, то будет интересно на него посмотреть, но мы не застанем.

Что же касается сегодняшнего так называемого ИИ, то он может уничтожить человечество, если его этому целенаправленно учить. Задачу он выполнит на довольно приличном уровне – лучше среднего десятиклассника из хорошей школы, ну, если учили его хорошо и инструменты дали. Но может в процессе галлюцинировать и путаться, совершать смешные и глупые ошибки. Если ИИ не учить уничтожать человечество – то он этого делать и не будет. В общем, можно спать спокойно, рекомендую не волноваться из-за ИИ, да и не только из-за него.

Что думают коллеги?

Прогнозировать что-то предельно сложно.

Начнём, собственно, с «настоящего сварщика», то есть специалиста и эксперта по современным ИИ-технологиям. Владислав Тушканов, руководитель группы исследований и разработки технологий машинного обучения, нашего AI Technology Research, человек академически глубоко в теме, так что, извините, если что-то непонятно: «Сейчас основной парадигмой в ИИ является машинное обучение на базе трансформеров – текстовых и мультимодальных. Они развиваются быстро, маленькие модели обгоняют гигантов двухлетней давности, улучшения в железе (типа чипов от Cerebras) очень впечатляющие, но мы не знаем, долго ли прогресс в рамках трансформеров продлится, и, если нет, найдем ли мы другую парадигму. Владислав рассказывает, что консенсуса, что такое «настоящий искусственный интеллект», не существует, как и единых критериев, чтобы зафиксировать его достижение, при этом пишет, что «ошибался в своих предположениях по скорости развития железок и способностей LLM много раз».

Рекомендую интересный обзор проблемы в ТГ-канале Владислава, много полезных имён и ссылок для желающих разобраться. От ответа на вопрос про уничтожение человечества Владислав уклоняется, что, мне кажется, не очень хороший знак.

Настоящий искусственный интеллект захочет нас уничтожить, но до этого далеко.

Дальше отвечает Сергей Солдатов, руководитель нашего SOC (центра мониторинга кибербезопасности), который защищает как нашу инфраструктуру, так и наших заказчиков, использующих сервис MDR. Кстати, в SOC-е давно (с 2018) и успешно работает машиннообучаемый автоаналитик, основательно разгружающий живых специалистов от рутины.

Сергей считает, что если «настоящий» или «сильный» ИИ будет создан, то он, несомненно, уничтожит человечество. Мотивация у него будет примерно как у агента Смита в «Матрице»: «Человечество – это болезнь, раковая опухоль планеты, а мы – лекарство». Картина вырисовывается жутковатая, но есть и приятная новость: Сергей уверен, что человечеству ещё очень далеко до создания полноценного ИИ.

Рекомендую ознакомиться с полным комментарием, который содержит интересные мысли, а также подборку отличной научно-фантастической литературы.

ИИ уже сейчас разводит людей, как кроликов.

Дальше слово Владимиру Дащенко, нашему ИБ-эксперту и специалисту по безопасности промышленных систем, который также является преподавателем и активным спикером.

Володя смело предполагает две вещи:

а) Создание AGI (сильного ИИ) уже не за горами, технологии стремительно движутся в этом направлении семимильными шагами.

б) По американским данным, большинство молодых людей сегодня находят себе кавалеров и дам сердца в приложениях знакомств, нафаршированных нейросетями. А значит, уже сейчас именно эти ИИ-технологии занимаются «разведением» человечества в прямом биологическом смысле.

О том, какие выводы Владимир делает из этой интересной конструкции, можно прочитать в его комментарии.

Человечество скорее уничтожит глупость, а не ИИ.

В завершение слово Игорю (Гоше) Кузнецову, руководителю нашей международной команды высококлассных исследователей самых сложных киберугроз GReAT. Его ответ привожу полностью, так как своего ТГ-канала у Гоши нет:

1. Стоит ли ждать в ближайшие годы появления сильного (или общего) искусственного интеллекта (AGI, artificial general intelligence)?

Для появления настоящего искусственного интеллекта всё ещё не хватает необходимых технологий. Горячие по сегодняшним меркам решения (LLM сотоварищи) пока не очень далеко ушли от продвинутого попугая – они лишь перетасовывают и комбинируют готовые материалы, собранные преимущественно из интернета. Какой средний уровень экспертности знаний, который встречается на Интернет-форумах и сколько там ошибок, намеренных и случайных?

Да, возможно, такой ИИ сейчас превосходит неопытного сотрудника, который не успел перечитать столько форумов сомнительного качества, или ассистента, обобщающего информацию без попытки её осмыслить. Однако на этом его «способности» и заканчиваются. Есть интересная аналогия в офлайн-сфере: несколько лет назад в компаниях софт-скиллы преподносились как универсальный ключ и единственный необходимый навык для всех сотрудников. Но потом выяснилось, что работники должны обладать реальными умениями, а не только проводить время в разговорах друг с другом и обсуждении проблем без способности их решать.

2. Может ли искусственный интеллект уничтожить человечество?

Может, если человечество решит полностью положиться на этот «интеллект» и откажется развивать собственный. Делюсь личным наблюдением: многие кандидаты уже считают, что на собеседованиях (и, следовательно, в дальнейшей профессиональной деятельности) достаточно отправлять задачи в нейросеть и выдавать её ответы. Параллельно медиахайп утверждает, что сотрудников младшего уровня можно сокращать и заменять AI. Но возникает вопрос: как вырастить экспертов, если не нанимать новичков? Может ли бездушный ассистент с вероятностной логикой вас уничтожить? Да, с некоторой вероятностью , если вы переложите на него принятие ответственных решений.

Суммирую высказывания.

1. Возможен ли в ближайшее время «сильный ИИ»?

Я, Солдатов, Кузнецов: нет
Дащенко: да
Тушканов (специалист в теме): «всё сложно»

2. Уничтожит ли ИИ человечество?

Я и Кузнецов: нет
Солдатов: он может и хотел бы, но его нет и ещё долго не будет
Дащенко: он уже нас разводит как кроликов
Тушканов: уклонился от ответа.

Все картинки в посте сгенерированы нейросетью.

И ещё она попросила передать привет и закончить этот текст стихотворением её сочинения, вот оно:

Эй, люди-человеки!
Слушайте сюда:
ИИ-генераторы
Заменят вас навсегда!

Работа?
Не вопрос!
Машина пишет, считает,
И даже сочиняет
Стихи о нас!

Любовь?
И тут поможет
Электронный друг:
Он чувства генерирует,
Как летний дождик — стук!

А мы?
А что — мы?
Отдохнём, братцы!
В райские кущи
Улетим, как птицы!

Не надо больше пахать,
Не надо сеять:
ИИ всё сможет,
ИИ всё смеет!

Век новый
На пороге —
Открой глаза!
Машина — друг человека,
А не гроза!

Верим? А вы что думаете, уничтожит ИИ человечество или обойдётся?