Рубрики
Artificial Intelligence

Осторожно, ИИ! (Продолжение)

Продолжаем выдергивать перышки из хвоста этого павлина. Когда вы исследуете какую-то тему с помощью ИИ, обратите внимание, что ИИ в своих ответах использует неоправданно большое количество обобщений, которые размывают точный смысл ответа и делают его более универсальным и более бесполезным. Например, вместо «отремонтировать стул» он сформулирует «привести в порядок мебель». У второго варианта фразы огромное количество смыслов. И каждый будет представлять себе, что именно то, что он думал, и имелось в виду в ответе.

А на самом деле в виду не имелось ровно ничего. Для того, чтобы делать меньше диких ошибок, разработчики ИИ увеличивают веса обобщенных категорий по сравнению с более конкретными. Это как пифии в древней Греции – нанюхавшись химии, они изрекали свои предсказания, в очень обобщенных формулировках. И каждый подгонял их под свои собственные представления, и как-то так получалось, что всегда предсказания сбывались. Туда же и предсказания Нострадамуса, и любую гадалку с её «дальней дорогой и марьяжным королем». Это всего лишь один из приемов психотехник для введения людей в заблуждение.

Информация о ближайших мероприятиях Национального объединения специалистов по безопасности бизнеса: https://www.acfe-rus.com/

Рубрики
Artificial Intelligence

Осторожно, ИИ

Об этом не говорят, и в школе этому не учат. Мир делится на две большие группы: энтузиастов ИИ и скептиков, которые говорят о его вреде и бестолковости. И о том, что это вовсе не ИИ.

И они тоже правы. А вот о том, что ИИ — это очень специфический инструмент, с огромными ограничениями, никто не говорит. И вот об одном очень важном ограничении ИИ я сегодня расскажу.

Вот оно: ИИ (LLM модели) находят хорошие решения для задач, которые уже решались множество раз и эти решения можно найти в интернете, пусть даже в самых неожиданных местах. Если ваша задача не никогда решалась, то вероятность «глюков» ИИ и их степень их нелепости резко возрастает. Поэтому, прежде чем применять ИИ, оцените, насколько уникальна ваша задача.

Пример: CHATGPT на вопрос, как сделать, чтобы начинка не сползала с пиццы, дал ответ, что её надо приклеить нетоксичным клеем. Почему он так ответил? Потому что никто не решал такую задачу массово. Но один какой-то пользователь когда-то задал этот вопрос в каком-то чате и получил от кого-то шутливый ответ: приклей начинку нетоксичным клеем. Этот ответ народам понравился, завирусился, и получил много дублирований в интернете.

CHATGPT нашел этот единственный ответ, и поскольку он повторялся много раз,  счел его за найденное решение проблемы.

Вывод: не решайте те задачи, которые ещё никто не решал, с помощью LLM моделей. Они не умеют изобретать, они умеют только комбинировать, но они не могут сами оценить качество полученного результата. Это придётся делать вам вручную. 

ИИ хорошо расширяет пространство вариантов, но плохо отделяет жизнеспособные решения от правдоподобного мусора. Без дешёвой системы проверки увеличение числа вариантов может не облегчить, а усложнить работу человека.