«О дивный новый мир». Бывший IT-евангелист «ВКонтакте» объяснил, почему нейросети — не интеллект

Нейросети сегодня повсюду: они пишут тексты, обрабатывают фото, дают советы и даже «поддерживают» в беседе. Их хвалят, ими восхищаются, им доверяют — но так ли они умны, как кажется? В погоне за технологическим чудом многие забывают, что генеративная модель может выдавать ложь за правду и создавать иллюзию понимания там, где его нет.

Экс-директор по внешним коммуникациям «ВКонтакте» Вячеслав Прохоров считает, что нейросети — это опасный тренд. Далее — от первого лица.

Уши нейросетей торчат сегодня из каждого утюга. Порой складывается ощущение, что невозможно чихнуть, не услышав какую-нибудь новость про нейросети, искусственный интеллект или ещё какие-нибудь космические корабли, бороздящие просторы Большого театра.

Улучшить фото или написать текст? Нейросети помогут. Анализ больших данных, финансовая отчётность или планирование контента в социальных медиа? И тут они помогут.
Хотите узнать, каким котиком вы бы были? Порассуждать о природе пост-модернизма с алкоголиком из советских кинокомедий? Получить краткую выжимку истории банановых плантаций в Гондурасе? Всё это могут сделать нейросети! О дивный новый мир…

Нейросети способны на многое и производят прекрасное впечатление. GPT-механизмы обучены хвалить пользователя за любое его движение. Нейросеть расскажет вам, что вы очень классный, и похвалит за наблюдательность. Они милы до невозможности, они располагают к себе.

Для начала давайте условимся о нескольких вещах.

Во-первых, может сложиться впечатление, что нейросети — это что-то новое. Однако первые наброски алгоритмов появились во второй половине пятидесятых годов. То есть, нашим «новым» игрушкам уже в районе семидесяти лет. Долгое время нейросети были уделом узкого круга специалистов. Либо занимающихся изучением вопроса искусственного интеллекта, либо работающих с большими данными. К примеру, крупные рекламные платформы уже давно используют нейросети, потому что бездушное железо гораздо лучше справляется с гигантскими объёмами данных и обучается на нём, чем это делает углеродная жизнь.

Во-вторых, — и это сейчас будет чистой воды брюзжание, — я выступаю против того, чтобы называть генеративные нейросети искусственным интеллектом. К сожалению или к счастью, до интеллекта всем моделям — как до Луны пешком.

Если вороны придумала взять в клюв палочку и с её помощью достать лакомство — это проявление интеллекта. Когда LLM выдала простыню текста на заданную тему — к интеллекту это не имеет никакого отношения.

GPT-модели можно сравнить с Т9 на кнопочных телефонах. Т9 пытался угадать, какая буква будет следующей в слове, сверяясь со словарями и анализируя частотность использования человеком определённых слов. Старожилы могут помнить, что Т9 можно было обучить виртуозно материться.
Нейросеть же просчитывает вероятность каждого следующего слова в тексте. А помогают им в этом гигантские массивы данных, на которых их обучали.
Если провести очень грубую аналогию, да простят меня за неё специалисты в этой области, нейросетям показывали много текстов и указывали: вот это — текст. А вот это — бессвязный набор символов. Нейросеть улавливала принцип и обучалась.

Если вам доводилось разгадывать капчу формата «отметьте все картинки со светофорами» — поздравляю, вы участвовали в обучении «компьютерного зрения», размечая для него выборку данных.

Понимание этого принципа приводит нас к выводам о том, какие недостатки есть у нейросетей. К примеру, задача текстовых генеративных моделей — формирования связного, правдоподобного текста. Чем более широкую и неконкретную задачу мы даём алгоритму на вход, тем больше у него простора для деятельности.
Поэтому нейросети легко «ломаются» на простых, конкретных задачах. Попробуйте спросить у нейросети, как правильно писать: «скачок» или «скачек». Или попросите написать два предложения про собак-поводырей, не используя букву «е». Ещё пару месяцев назад Deepseek на этой задаче совершил восемь попыток, не справился, попросил прощения и отказался продолжать.

Простота использования и избыточная услужливость нейросетей могут способствовать когнитивных искажениям. Ведь если что-то выглядит, как услужливый универсальный советник, то может сложиться ощущение, что с ним можно советоваться вообще обо всём! Из-за этого появилась опасная тенденция.

Есть темы, которые касаются очень многих людей, а разбираются в них — единицы. Например всё, что касается юридических текстов. Или медицинских.
Получаете вы на руки какой-нибудь договор или результаты анализов. Среднему человеку там мало что понятно, а получить правильный ответ очень хочется, ведь от этого буквально зависит жизнь. И возникает соблазн схитрить — скормить эти данные нейросети и попросить пересказать человеческим языком. Друзья, не стоит так делать. Из самой природы нейросетей. Вернёмся на несколько строчек выше.

Но никто не гарантирует, что правдоподобность и правда совпадут.

Представьте, что вы — Вовка в Тридевятом царстве, а нейросеть — двое из ларца, одинаковы с лица.
Они постараются выполнить любое ваше пожелание, не противоречащее настройкам этики конкретной нейросети, но сделают это на своё усмотрение.
Дело в том, что не обладая знаниями в конкретной теме, вы не сможете оценить результат их работы. Максимум — оценка в духе «ну да, вроде так».

Прошу вас не воспринимать всё написанное как буквальную рекомендацию. Как поступать и что делать — исключительно ваш выбор и ваша ответственность. Нейросети — прекрасные помощники, способные решать многие рутинные задачи и некоторые творческие. Я с большим интересом и любопытством наблюдаю за развитием технологий и уверен, что они помогут нам жить проще, приятнее и лучше. Но всё же думайте о себе, прежде чем доверять свою жизнь виртуальному помощнику, пускай и очень дружелюбному.

Ранее журналистка объяснила, почему она «тарелочница» и не стыдится этого, — почитайте ее откровенную колонку.