Рубрики
Artificial Intelligence

Осторожно, ИИ! (Продолжение)

Продолжаем выдергивать перышки из хвоста этого павлина. Когда вы исследуете какую-то тему с помощью ИИ, обратите внимание, что ИИ в своих ответах использует неоправданно большое количество обобщений, которые размывают точный смысл ответа и делают его более универсальным и более бесполезным. Например, вместо «отремонтировать стул» он сформулирует «привести в порядок мебель». У второго варианта фразы огромное количество смыслов. И каждый будет представлять себе, что именно то, что он думал, и имелось в виду в ответе.

А на самом деле в виду не имелось ровно ничего. Для того, чтобы делать меньше диких ошибок, разработчики ИИ увеличивают веса обобщенных категорий по сравнению с более конкретными. Это как пифии в древней Греции – нанюхавшись химии, они изрекали свои предсказания, в очень обобщенных формулировках. И каждый подгонял их под свои собственные представления, и как-то так получалось, что всегда предсказания сбывались. Туда же и предсказания Нострадамуса, и любую гадалку с её «дальней дорогой и марьяжным королем». Это всего лишь один из приемов психотехник для введения людей в заблуждение.

Информация о ближайших мероприятиях Национального объединения специалистов по безопасности бизнеса: https://www.acfe-rus.com/

Рубрики
Artificial Intelligence

Осторожно, ИИ

Об этом не говорят, и в школе этому не учат. Мир делится на две большие группы: энтузиастов ИИ и скептиков, которые говорят о его вреде и бестолковости. И о том, что это вовсе не ИИ.

И они тоже правы. А вот о том, что ИИ — это очень специфический инструмент, с огромными ограничениями, никто не говорит. И вот об одном очень важном ограничении ИИ я сегодня расскажу.

Вот оно: ИИ (LLM модели) находят хорошие решения для задач, которые уже решались множество раз и эти решения можно найти в интернете, пусть даже в самых неожиданных местах. Если ваша задача не никогда решалась, то вероятность «глюков» ИИ и их степень их нелепости резко возрастает. Поэтому, прежде чем применять ИИ, оцените, насколько уникальна ваша задача.

Пример: CHATGPT на вопрос, как сделать, чтобы начинка не сползала с пиццы, дал ответ, что её надо приклеить нетоксичным клеем. Почему он так ответил? Потому что никто не решал такую задачу массово. Но один какой-то пользователь когда-то задал этот вопрос в каком-то чате и получил от кого-то шутливый ответ: приклей начинку нетоксичным клеем. Этот ответ народам понравился, завирусился, и получил много дублирований в интернете.

CHATGPT нашел этот единственный ответ, и поскольку он повторялся много раз,  счел его за найденное решение проблемы.

Вывод: не решайте те задачи, которые ещё никто не решал, с помощью LLM моделей. Они не умеют изобретать, и как только нужно придумать что-то новое, они начинают дико глючить.

Подробнее о применении ИИ при проведении расследований поговорим здесь: https://www.acfe-rus.com/2025internalinvestigation