Рубрика: Artificial Intelligence

Рубрики
Artificial Intelligence Business Risk management

Это было недавно

Это было давно. В 2019 году. На нашей ежегодной конференции в октябре 2019 мы обозначили тему года – обеспечение непрерывности бизнеса. Говорили, что пора бы заняться тем, чем никто никогда серьёзно не занимался. Что будет с вашим бизнесом, если интернет отключат хотя бы на три дня? Илья Самсонов подробно рассказывал про всякие планы действий в чрезвычайных ситуациях, восстановления бизнеса. Я рассказывал всякие реальные кейсы, когда из-за расп… пренебрежения к теме создавались катастрофические ситуации. Участники в опросе дружно признали, что ни хрена в их компаниях не делается для обеспечения непрерывности бизнеса, и отключения интернета на три дня достаточно, чтобы создать их бизнесу оочень серьёзные проблемы. До СВО было ещё целых три года. Имевшие уши да услышали, но их было мало, как декабристов.

Шли годы.

Февраль 2021 года. На нашей конференции по информационной безопасности я призываю подумать об облачных хранилищах и что-то сделать, пока не рвануло. До СВО и блокады со стороны запада оставался ровно год. Можно было успеть, если сильно напрячься. Но почти никто не напрягся. И результаты – на лице. Смотрите: https://videopress.com/v/KVTHR7Hx

Делайте выводы. А вывод должен быть такой: учитесь оценивать риски. Заранее. Жить станет проще, жить станет веселей.

В середине декабря 2026 нас есть возможность провести курс по оценке рисков системы внутреннего контроля. В корпоративном формате. Возможность редкая, и, скорее всего, начиная со следующего года эту информацию можно будет получить только в формате консультаций. Пишите info@acfe-rus.org

Поговорим, как в безопасности бизнеса перейти от реагирования на инциденты к оценке рисков и предотвращению их. С применением ИИ. Что делает процесс более забавным и непредсказуемым.

Я не обещаю, что после нашего курса вы сразу прямо начнёте оценивать риски, как щелкать орехи. Нужна практика. А сейчас скажу страшное. То есть наброшу на вентилятор риск менеджмента.

Чтобы оценивать риски, нужно их видеть (ощущать, понимать – называйте, как хотите). А этот процесс тесно связан с подсознанием. В которое нужно накачивать информацию, и запускать в нём её обработку. Постепенно (не за одну ночь) формируется понимание, что ситуация именно такая, и никакая больше. И вот когда сложилось понимание риска, то его можно уже оценивать. То есть количественно сравнивать с другими рисками.

Понятно, что далеко не каждый имеет способности от природы целенаправленно обрабатывать в подсознании огромные объёмы информации, но современный ChatGPT или Claude позволяют нагрузить его этой задачей. Если очень аккуратно, с большим количеством ограничений. Но это работает. И этому можно научиться.

Рубрики
Artificial Intelligence Business Ethics Intelligence Risk management

Анализ рисков инсайдерской торговли в администрацииТрампа

Весной 2026 года на рынке нефтяных фьючерсов была выявлена серия необычных торговых операций. В нескольких случаях чрезвычайно крупные позиции на падение цены нефти размещались незадолго до публичных заявлений Дональда Трампа, после которых нефтяные котировки резко снижались именно в направлении сделанных ставок.
Первоначально Reuters выявил четыре серии операций общей номинальной стоимостью около $2,6 млрд. Последующий анализ дополнительных сроков Brent и WTI, а также фьючерсов на бензин и дизель увеличил совокупный номинал совпадающих по времени операций примерно до $7 млрд. Reuters отмечает, что позиции были
распределены между несколькими биржами и инструментами и во всех случаях представляли собой ставки на снижение цен.

Грубая оценка потенциального финансового результата показывает, что при закрытии позиций после основных последовавших движений рынка их совокупная валовая прибыль могла составлять сотни миллионов долларов — ориентировочно до $0,8–0,9 млрд. Эта величина не является установленной фактической прибылью: цены и время
закрытия позиций неизвестны. Но она показывает экономическую ценность возможного предварительного знания содержания заявлений.
Особенно выраженный паттерн наблюдается в трёх эпизодах.
23 марта крупные позиции на снижение нефти появились примерно за 15 минут до заявления Трампа об отсрочке ударов по энергетической инфраструктуре Ирана. После заявления Brent и WTI падали примерно на 15%.
17 апреля крупная ставка на падение была размещена примерно за 20 минут до заявления министра иностранных дел Ирана об открытии Ормузского пролива. В следующие минуты нефть падала до 11%.
21 апреля крупные позиции появились за 14–16 минут до заявления Трампа о продлении прекращения огня. Сделки почти не изменили цену, но сразу после заявления Brent упал с примерно $100,66 до $96,83.
7 апреля — четвёртый эпизод, имеет более сложную структуру: крупная позиция возникла примерно за 2 часа 45 минут до заявления Трампа, но непосредственно перед сделкой (как обычно, за 15-20 минут) уже появился публичный дипломатический сигнал о возможном перемирии. Однако сама операция была исключительно крупной и концентрированной и прошла после settlement — в период, когда такие сделки редки.
Таким образом, предметом анализа является не отдельная удачная спекуляция, а повторяющийся торговый паттерн:

чрезвычайно крупная ставка на падение нефти → короткий интервал → рыночно
значимое заявление Трампа → резкое падение цены в направлении позиции.

Две гипотезы

Давайте сравним между собой два предположения (гипотезы):

H0 — торговля шла без использования предварительной непубличной информации. А наблюдаемые позиции объясняются публичной информацией, независимым анализом, обычной торговой деятельностью или случайными совпадениями и не
связаны с предварительным знанием содержания будущих заявлений Трампа.
H1 — использование для торговли предварительной непубличной информации (инсайда). Это означает, что позиции были размещены с использованием инсайда (до того, как эта информация стала доступна рынку).

Наша задача — сравнить между собой эти две гипотезы: насколько одна из них более вероятна (возможна), чем другая. Такой метод называется «оценка конкурирующих гипотез» (ACH). Подобные методики используются в интеллидженс для выявления событий, которые не имеют прямых свидетельств (доказательств). Эти доказательства могут быть недоступны по разным причинам, но нам доступна некоторая публичная информация о событии, которая обычно с ним связана. Такая публичная информация (факты) называются индикаторами.

Индикаторы — это не доказательства, но факты, достаточно часто сопутствующие интересующему нас событию. Например, если сотрудник вашей организации распоряжается материальными ценностями, то то, что он тратит больше, чем зарабатывает, может быть индикатором того, что он совершает хищения. Повышенный расход электроэнергии является индикатором того, что оборудование работает нецчённо, для выпуска нецчтённой продукции, и т.д.
Поэтому сравнение гипотез производится оценкой того, насколько набор индикаторов поддерживает или опровергает каждую из гипотез. Если все индикаторы поддерживают одну гипотезу, и противоречат второй, то первую гипотезу будем считать более вероятной и делать на основании её выводы о ситуации.

Наверное, вам очевидно, что методика универсальна, и её можно использовать для оценки любого сюжета, связанного с обеспечением безопасности бизнеса. Особенно эффективно, когда на отдельных этапах мы используем мощности ИИ (и используем правильно). Объем ручной работы сокращается в сотни раз.

Для иллюстрации применения ИИ при анализе конкурирующих гипотез я выбрал небольшой пример с оценкой риска инсайдерской торговли, то есть умышленного манипулирования ценами на рынке нефти. Он показался мне очень показательным и эффектным, и даже на небольшом количестве индикаторов он даёт результат, который совсем не очевиден без применения методики.

Но для начала нам надо сформировать набор индикаторов, по которым мы будем сравнивать гипотезы.

Для оценки гипотез H0 и H1 будем использовать три индикатора.

1. Индикатор: временной интервал

Наиболее важным индикатором является время размещения позиций. Общую тенденцию переговоров по Ормузу профессиональный трейдер может оценивать за часы или дни. Но такая информация содержит значительную неопределённость: переговоры могут сорваться, позиция Трампа может измениться, а заявление может
последовать значительно позже. Риск проиграть очень больлшой.
Совсем иной информационной ценностью облдает знание: «содержание заявления уже определено и оно будет опубликовано в ближайшие минуты».
Именно при появлении такой уверенности становится рациональным быстро разместить чрезвычайно крупную позицию, пока информация ещё неизвестна остальному рынку.
Поэтому интервал порядка 15–20 минут между ставкой на понижение цены на нефть и заявлением Трампа особенно существенен. Такой тайминг невозможно объясняеть общим политическим анализом, особенно, если он поторяется многократно. Но очень хорошо объясняется инсайдерским получением содержания предстоящего заявления.
Кроме того, короткий интервал сужает круг лиц, которые могли сливать информацию. За несколько дней возможные варианты политики могут знать дипломаты, посредники и десятки чиновников. Но знать, что президент уже подготовил
определённое заявление и собирается обнародовать его в ближайшие минуты, (то есть практически уже идет к месту, с которого будет делать заявление) способен знать только значительно более узкий круг лиц, находящийся в непосредственной близости к президенту.
Таким образом, краткость интервала является аргументом не только в пользу H1, но и в пользу локализации возможного источника рядом с людьми, имевшими доступ к последней стадии подготовки или передачи заявления Трампа.
В случае 17 апреля первым заявление сделал Иран (см. приложения с детальным изложением каждого случая). Однако открытие Ормузского пролива являлось частью американо-иранского переговорного процесса. Поэтому содержание и приблизительное время заявления могли быть заранее известны ограниченному кругу лиц и на американской стороне. Предварительное согласование порядка и времени публикации подобных дипломатических сообщений является
естественной рабочей гипотезой, хотя прямых доказательств согласования конкретного времени заявления пока нет.

2. Индикатор: повторяющийся паттерн сделок

Отдельный временной интервал ещё мог бы быть совпадением. Но рассматриваемые операции имеют несколько повторяющихся характеристик:

  • чрезвычайно большая сумма сделок;
  • одинаковое направление — ставка на падение нефти;
  • концентрированное размещение;
  • близость к рыночно значимому заявлению;
  • последующее быстрое движение рынка именно в сторону позиции.

Reuters позднее обнаружил, что торговля в эти моменты охватывала не только ближайшие Brent и WTI, но и другие сроки поставки, бензин и дизель. Общий номинал составил около $7 млрд. Рыночные специалисты, опрошенные Reuters, характеризовали объёмы как необычные и концентрированные.
Особенно сходны эпизоды 23 марта, 17 апреля и 21 апреля:
огромный по сумме short (ставка на падение цены на нефть) → 15–20 минут → market-moving заявление Трампа → немедленное падение нефти.
Три практически одинаковых паттерна допускают рабочую гипотезу, что за ними мог
находиться один оператор либо связанная группа операторов, получавших
информацию из одного инсайдерского источника.
Публично доступные данные не позволяют установить владельцев счетов, поэтому
эта гипотеза не является прямым доказательством для уголовного дела об инсайде.
Однако она более вероятна, чем версия о трёх разных источниках, трёх разных
операторах и трёх независимо возникших практически одинаковых временных
последовательностях.

3. Индикатор: вероятность случайного совпадения

Возможно ли, что все четыре случая были обыкновенной случайностью? Мало ли чего не бывает. Попробуем оценить вероятность этого статистически. Точная оценка не нужна, достаточно определить порядок величины.
Если в максимально упрощённой модели учитывать только:

  • четыре фактических временных интервала;
  • правильное направление всех четырёх позиций,
    то при приблизительно 22-часовой торговой сессии вероятность случайного получения
    всей последовательности составляет около:
    1,6 × 10⁻⁸, то есть примерно:
    1 случай на 60 млн.

Это не точная статистическая вероятность. Модель упрощает внутридневное распределение торговли и не учитывает эффект выбора событий. Но она также не учитывает чрезвычайно крупный размер позиций, их концентрацию, синхронную торговлю несколькими инструментами и низкую ликвидность некоторых периодов.
Поэтому расчёт следует понимать не как доказательство с точностью до конкретного
числа, а как оценку порядка величины:
объяснение всей наблюдаемой серии простой случайностью имеет вероятность
порядка одного случая на миллионы или десятки миллионов.
Подробный расчёт приведён в Приложении 5.

Сопоставление H0 и H1

Если принимать истиной гипотезу H0 (отсутствие инсайда), то должны быть объяснения одновременно нескольких фактов:

  • повторяющиеся огромные правильно направленные позиции;
  • три интервала порядка 15–20 минут;
  • размещение части позиций в периоды низкой ликвидности;
  • отсутствие достаточного публичного сигнала в наиболее сильных случаях;
  • крайне низкую вероятность случайного возникновения всей серии.

Таких объяснений нет, кроме случайного совпадения, а вероятность его мы уже оценили.
С другой стороны, для H1 (инсайд был) всё объясняется достаточно просто, убедительно, и подкреплено фактами, если механизм инсайда выглядит так:
оператор получает предварительную информацию о содержании близкого по
времени заявления → резко увеличивает позицию до публикации → рынок получает заявление Трампа → цена движется в ожидаемую сторону.
Это не означает, что каждый из четырёх эпизодов одинаково сильно поддерживает H1.
7 апреля имеет публичное альтернативное объяснение направления сделки.
17 апреля хуже локализует источник информации, поскольку первым публично выступил Иран.
Но 23 марта и 21 апреля имеют особенно сильную временную структуру, а 17 апреля воспроизводит практически тот же 15–20-минутный паттерн.
Количественно результат можно сформулировать следующим образом:
в рамках принятой упрощённой модели гипотеза использования инсайда объясняет наблюдаемую серию событий примерно на четыре–шесть порядков вероятнее, чем гипотеза торговли без такого знания.

Вывод

Сопоставление двух гипотез даёт достаточно определённый результат.
H0 — отсутствие использования инсайда — плохо объясняетсовокупность наблюдаемых фактов. Для её сохранения необходимо либо принять крайне маловероятную серию совпадений, либо предъявить конкретный альтернативный информационный механизм, способный объяснить одновременно время, направление и исключительный размер наиболее сильных сделок.
H1 — использование предварительной непубличной информации — объясняет наблюдаемый паттерн значительно лучше. В трёх наиболее выраженных случаях крупные позиции на падение нефти возникали примерно за 15–20 минут до рыночно значимого заявления, после которого цена немедленно двигалась в ожидаемом
направлении. Такой тайминг естественно объясняется тем, что оператор получал информацию тогда, когда содержание предстоящего заявления уже было известно ограниченному кругу лиц, но ещё не было известно рынку.
Поэтому H1 следует считать более вероятной гипотезой, а H0 — формально возможной, но практически невероятной.
Иными словами:
гипотеза использования инсайда объясняет наблюдаемую серию событий примерно на четыре–шесть порядков вероятнее, чем гипотеза торговли без такого знания.

P.S. Приведенный пример показывает использование ИИ в процессе интеллидженс – то есть оценку вероятности разных гипотез при отсутствии прямых доказательств. Пример небольшой, иллюстративный – только две гипотезы и три индикатора. Но в то же время очень показательный. Если одна из двух гипотез в десятки миллионов раз вероятнее
другой, вы знаете, какую из них выбирать как основу для дальнейших решений.
Но в практическом использовании есть важные нюансы – при формулировке гипотез, при выборе и оценке индикаторов, при вычислении итоговой оценки риска. Кому интересны эти детали, расскажу через месяц, на нашей онлайн конференции «Комплексная безопасность бизнеса и противодействие хищениям», 7 октября 2026 года.
Регистрация: https://www.acfe-rus.com/21annualantifraudconference

P.P.S Полную версию статьи в формате PDF (с приложениями) можно скачать тут: https://retrograde.blog/rivg

Рубрики
Artificial Intelligence

Записки с конкурса красоты

Замутил я недавно конкурс красоты. А что, один президент тоже с этого начинал. А потом вон оно как обернулось. Не дай бог, если что. Ухо прострелили ему, болезному. После этого перестал в примиряшки играть. Осознал. Раскаялся. Теперь он не примиряка, а победяка. На радость ВПК.

Ну да ладно с ним. Пригласил я нескольких участниц – сколько набралось на конкурс. Claude, Gemini, Copilot, Grok и DeepSeek. ChatGPT тоже хотела, но не стал её дергать – занята, мою книжку редактирует. Пусть работает, девушка она сурьёзная, одной рукой кодит, другой ищет, третьей редактирует. Любо-дорого посмотреть. Таких ещё поискать.

И вот пять красавиц, как на подбор, взялись научиться имитировать мой авторский стиль – со всеми подтекстами, контекстами, ассоциативными приёмами и так далее. Доказать теорему Ферма было проще (это моё мнение). Соревнование ещё продолжается, но пока впечатления вот такие.

Все девушки очень разные, но каждая со своим прибабахом.

Claude. Хорошо кодит. Ну, что такое хорошо: не больше 10 ошибок зараз и не больше 10 переделок в целом. Такая старательная комсомолка-спортсменка. Интеллект средний, но прочный. Башку так быстро не сносит, как у некоторых. Линии партии предерживается, выглядит браво, честь отдавать умеет. Особо много от неё не ожидайте. Надежная боевая подруга, если не сказать – рабочая лошадка.

Gemini. Компанейская болтушка-хохотушка, но явно не дура. Правда, память дырявая. Учишь-учишь, а потом вдруг – «ой, всё». И начинай с начала. Терпение, мой друг, только терпение.  Но с такой не соскучишься.

Copilot. Породистая блондинка с хорошо подвешеным языком. Текст проанализирует, по полочам разложит, все приёмчики распишет. А вот показать на деле – что называется, слезь с табуретки, спасибо. К тому же подозрительно быстро крыша едет, даже шуршит не по-детски. Оказывается, это не Пушкин, а поп говорил «корми меня варёную полбою». А Пушкин тут вообще не при делах. В общем, билет не выучила, но лютый бред гонит уверенно – залюбуешься. К тому же суперполиткорректная. В упор не может разгадать загадку «Рыжий, крысит чужие ресурсы. Кто бы это мог быть?» Начинает уходить в несознанку, а будучи припёртой к стенке, признаётся, что 97% случайно опрошенных в России назвали бы фамилию сходу.

DeepSeek – симпатичная азиатка с дружескими манерами и без лишних понтов. Что сможет, сделает, будет упорно стараться сделать даже то, что не может сделать. Общаться с ней комфортно, дружить можно. Вместе поржали над загадкой (см.выше) По имитации стиля пока средненько, но внушает.

Grok – пожилая дама в чёрном с дворянским воспитанием. Старорежимная спесь. Денег хочет много, но вот ни в чем не лучше перечисленных выше. Уж не знаю, что такого она может сделать, чтобы выйти в финал. А вдруг?

Промежуточные итоги: прежде чем поиметь с девушками близкие отношения, проверьте:

      — как часто и как скоро у неё сносит крышу

      — нет ли при легкости бытия внезапной потери памяти.

Пока всё, друзья.

Рубрики
Artificial Intelligence Ethics Social Engineering

Токены маленького принца

Сижу я, значится, вдумчиво долблю код. Не, ну я ж не дятел. Я только формулирую, а машина пишет. Потом вручную переписываю, ошибки исправляю. В жизни оно так бывает. Немножко потею и думаю, а не проще было бы написать всё самому?

И вдруг на экране возникает пасхалочка: «Дружок, ты расходуешь токены, как маленький принц». Я в ах… недоумении. Какой маленький принц? Я — большой, толстый и красивый мужчина, не рыжий, но с пропеллером в жопе. Который мне не даёт сидеть без дела и носит меня вокруг и около ИИ, как муху вокруг помойного ведра. Начинаю осторожно интересоваться, знают ли они объем моей талии и пролетарское происхождение. И вообще, почём нынче токены и скоро ли наступит пц моим упражнениям, сколько овса осталось на балансе.

 Получаю неожиданный ответ: «Дорогой друг, не беспокойся, мы выполним все твои запросы» Такое впечатление, что где-то там, за рекой, завелись нормальные люди среди алгоритмов. Как мыши в зернохранилище. Вроде их нет — а вот и хвостик промелькнул.

Не поверил, конечно. Нам тут штрафы на дорогах ни за что выписывают, а у них токены раздают? Да это нарушает закон сохранения материи! И токенов. Но нет, как я ни старался, но до конца моих сил запросы исполнялись, говнокод генерировался и счастье было.

И проникся я великой нежностью и почтением к сему продукту (да не будет всуе помянуто имя его) и решил сохранять сию память навеки и даже соорудить бюст героя во дворе. Или, в крайнем случае, в лифте нацарапать. Увековечить, в общем.

А потом поспал, отдохнул, и с утреца подумал: а что есть маркетинг в нашей жизни? Это когда ты тратишь небольшие деньги, чтобы заработать большие.

Вот взять меня, маленького принца, к примеру. Кодю я не каждый день, и даже не по многу. То есть лимит токенов никогда не достигаю. И вот в кои-то веки сподобился, заколдобило, и борьба с говнокодом пошла не на жизнь, а не смерть. Кто — кого? И даже если я сегодня израсходую несколько тысяч токенов сверх лимита, банкет уже оплачен. Многократно.

Плюс — лояльный клиент созрел.

А теперь о грустном. Методологический разбор (как это работает в качестве маркетингового приема): Социальная инженерия — это скрытое управление человеком помимо его воли на основе психофизиологических реакций. Вместо «массового сценария» с тупым скриптом продавца, маркетологи применили точечный удар по эмпатии. Слом корпоративного штампа на контрасте: холодный язык IT-ограничений («лимит», «токены») сталкивается с глубоким человечным архетипом героя Экзюпери.

Да я просто почувствовал себя маленьким принцем, поскакал к зеркалу и отметил: а ещё ничего! Если пузо втянуть. И корону сдвинуть на бок.

Иллюзия эксклюзивности: Система не просто подарила ресурс, она заставила пользователя осознать и оценить этот подарок. Намек на «Маленького принца» переводит статус пользователя из обычного потребителя («расход превышен») в статус «избранного» особо ценного клиента.

Абсолютная рентабельность манипуляции: блестящая инвестиция в маркетинг с нулевой себестоимостью. Корпорация не потратила ничего, выделив уже оплаченный и простаивающий вычислительный ресурс, но за счет одной вовремя подсунутой фразы купила вечную лояльность клиента.

Имитация души: как известно, искусственный интеллект отличается от натурального, как надувная женщина от настоящей Но в маркетинге важна не искренность, а правильное нажатие кнопок. В данном случае кнопка «человеческая признательность» была нажата виртуозно.

Учись, маркетолог, пока я жив

Рубрики
Artificial Intelligence Social Engineering Society

Эволюция ИБ и ИБ эволюции

Это мой доклад на нашей 9-ой ежегодной конференции «Информационная безопасность — взгляд изнутри компании» 18 марта 2026 года.

Расшифрую название: Все вокруг и мы сами эволюционируем. Информационная среда вокруг нас эволюционирует, меняется. И мы сами, как биологический вид, пытаемся адаптироваться к эволюции инвормационного пространства. Правда, такая ерунда получается!

Потому что скорость эволюции нас любимых в миллионы раз медленнее, чем эволюция информационных технологий. Человек нисколько физиологически не изменился за последние 30 тыс. лет (как утверждают антропологи). А информационное пространство вокруг нас за последние 100 лет изменилось совершенно радикально.

То есть мы, как вид, «не догоняем» развитие технологий. К чему это привело, об этом пока никто не пишет. Попробую предложить вам системный взгляд на эту проблему и показать, к чему это приведёт в ближайшем будущем.

И предложу концепцию «тепловой смерти» информационной вселенной. Смотрите:

Рубрики
Artificial Intelligence Society

Коллективный и индивидуальный разум

07-03-2026 Сергей Мартынов

У любого сообщества живых существ (от муравьёв и до людей) есть коллективный (или общественный) разум. Это знания и опыт, которые существуют отдельно от знаний и опыта отдельных особей – членов сообщества.

Общественный разум дан животным (и человеку в том числе) для того, чтобы преодолеть ограничения индивидуального разума. Люди обходят эти ограничения – отделяют знания от конкретных людей – с помощью внешних инструментов, начиная от наскальных картинок (петроглифов) и до книг, интернет поиска, соцсетей, LLM и т.д. Чем больше развивается общественный разум, тем меньше информации нужно хранить в голове одной особи. Особенно с появлением так называемого ИИ.

Проведите эксперимент. Отберите у современного человека доступ к интернет и оцените его интеллект. Сравнение с обыкновенной вороной будут не в пользу человека.

Что происходит с человеческим сообществом при развитии инструментов общественного разума?

Главный эффект: в результате развития инструментов общественного разума ресурсы мозга освобождаются от сложных знаний и затрат энергии и времени на их изучение. Нам уже не нужно хранить кучу знаний в голове и для этого изучать их с великим трудом.  Нужно только знать, как их найти в случае необходимости. Освободились колоссальные ресурсы мозга, которые человек раньше тратил на рутинные операции с информацией.

И что от этого изменилось?

По идее, освободившиеся ресурсы человек теперь должен тратить на получение более ценных знаний высокого уровня. Как это делали древние греки, переложив всю рутину на рабов.

А на самом деле?

Закон сохранения энергии никто не отменял. Любая биологическая система (в том числе и человек) стремится в состояние с наименьшим расходом энергии.  Изучать знания высокого уровня сложности – очень энергозатратно. При решении сложных задач, обучении мозг потребляет слишком много энергии, и вся физиология человека сопротивляется этому.  Поэтому заставлять мозг работать напряжённо никто не хочет. Даже если для этого есть свободные ресурсы.

Следствие, или эффект 1: человек стал тратить освободившиеся ресурсы мозга на получение развлекательного контента, который не напрягает мозг, и не расходует энергию, а даёт быстрое вознаграждение в виде выработки дофамина (как при просмотре смешного шортса в тик-ток). Повторилось то, что уже проходили: когда изобрели компьютер или смартфон, думали, что человек будет использовать его для самообразования и колоссально повысит свой интеллект. Эффект был строго обратный. Сейчас смартфоны достигли колоссальной мощности и способности решать сложнейшие задачи. Мы освободили колоссальные когнитивные ресурсы (нам больше не нужно держать в голове таблицу умножения, маршруты, даты и телефоны), но направили их не на получение более сложных знаний, а на бесконечный скроллинг ленты с котиками.

Интересный эксперимент провели в 2015 году. Оказалось, что у ос-одиночек размер мозга в полтора раза больше, чем у ос, живущих сообществами и использующих коллективный разум. В основном за счет отделов мозга, которые отвечают за интеграцию сенсорной информации, обучение, память и принятие сложных решений.

Почему же у тех, кто живет в обществе, ключевые отделы мозга меньше? Это правило работает для всех биологических объектов, от осы до человека.

Причина 1.  Закон «сохранения энергии». Мозг — очень энергозатратный орган. Содержать большой и мощный мозг каждому члену колонии — дорого. Если есть возможность (инструменты) создать общественное хранилище информации, то суммарные (и удельные) затраты энергии будут ниже. Любой биологический объект или сообщество следует правилу минимизации энергетических затрат и оптимизируется в этом направлении.

Причина 2. «Коллективный разум». В сообществе когнитивные функции распределены между всеми особями. Информацию, которую одна одиночная оса должна добыть, обработать и запомнить самостоятельно, общественная оса может получить в готовом виде от сородичей. А человек – из интернет.

Причина 3. «Специализация». Вместо того, чтобы быть «мастером на все руки», каждая особь может специализироваться на узком круге задач. Для этого не нужен такой мощный универсальный «процессор», как у осы-одиночки, которая вынуждена решать все проблемы самостоятельно.

Факт наличия коллективного разума коррелирует с уменьшением «высшего аналитического центра» в мозге насекомого. Конечно, такая эволюция ос проходила десятки миллионов лет, и мозг человека ещё не успел отреагировать на снижение когнитивной нагрузки таким явным образом. Хотя процесс неизбежен.

Пока же человек функционально деградировал (анатомическая эволюция — это долгий процесс), хотя физически размер мозга ещё не изменился.

Теперь уровень образования среднего человека можно описать одной фразой «Школа научила меня трем вещам: четать и песать».  За исключением старых пердунов, которые учились в докомпьютерную эру и скоро вымрут, как мамонты. Вместе со всякими артефактами типа «Война и мир» или «Капитал».

Второй эффект развития коллективного разума: человек стал использовать освободившиеся ресурсы мозга для переработки огромного количества «информационного мусора». Это информация, которая не несёт никакой реальной ценности для вас  (реклама на Youtube, например). Мы позволяем себе обрабатывать эту информацию ресурсами, которые могли бы использовать в более полезных целях. Наш неокортекс вынужден работать на пределе, чтобы отсеивать ложь, манипуляции, кликбейт и противоречивые данные. Впрочем, это тоже сложная когнитивная задача, и большинство себя ею не утруждает. Отсюда и огромное количество мошенников в сети. Впрочем, это другая тема.

Общество сегодня не поощряет получение или создание сложных знаний, а препятствует этому. В древней среде (саванна, племя из 150 человек) стимулы, которые активировали систему подкрепления (дофамин), были жестко привязаны к выживанию: новая информация (где еда?), социальный успех (кто главный?), новизна (что там за холмом?).

Выживание сегодня не зависит от знаний, и интернет и соцсети заменили эти древние факторы информационными суррогатами.

*   Новая информация? Обновление ленты СМИ каждую минуту.

*   Социальный сигнал? Лайк, комментарий, репост.

*   Новизна? Бесконечный поток мусорных мемов, видео, новостей.

Лайк — это аналог социального одобрения (потребность в значимости, по Маслоу), но он приходит каждые 5 секунд, а не раз в месяц на совете племени. Яркая картинка в ленте — аналог «новизны», но она требует не физического усилия (бежать к горизонту), а только движения пальцем.

Мозг говорит: «О! Это же тот самый древний стимул, за который надо хвататься!» — и выделяет дофамин. Мы чувствуем прилив энергии (готовность тратить жизнь) именно на это действие. А на чтение сложной книги, где награда (новое знание, понимание мира) отсрочена на часы или годы, дофаминовый отклик слабее.

Это подтверждается колоссальным временем, которое люди проводят в TikTok, Instagram и YouTube Shorts. Эти платформы оптимизированы для мгновенной дофаминовой отдачи без необходимости глубокой когнитивной обработки.

Мозг не отличает «полезное знание» (например, статью по химии) от «развлечения» (видео со срущим котом) на уровне первичного восприятия. Он видит: “новизна + социальная значимость”, хотя это суррогаты. Причём эти суррогаты не требуют напрягать мозги для понимания. И мозг охотно выделяет дофамин, подталкивая нас потреблять этот контент всё в большем объеме.

Вот и получается, что когнитивные ресурсы человека, освобожденные коллективным разумом, перехватываются индустрией развлечений. Это происходит потому, что наши древние мозговые механизмы поиска награды легко «взламываются» современными алгоритмами, предлагающими легкую и быструю дофаминовую стимуляцию.

Вам скажут: ну, всё нормально, просто сами знания заменяются способностями их искать. Успешен не тот, кто знает, а тот, кто знает, где найти.

Но поиск сущностей по названию не означает их понимания. Вы сможете найти способ решения сложной системы уравнений в интернет, и даже найти объяснение этого способа, но оно будет непонятно для вас, потому что опирается на термины и понятия, которых у вас нет в голове. То есть если LLM предложит вам неправильное решение или объяснение, вы даже не поймёте этого. Да и правильное тоже.

Пишут, что освободившиеся ресурсы мозга нужны для навигации в социальной среде невиданной ранее сложности. Мы должны одновременно отслеживать множество социальных контекстов (рабочий чат, чат с друзьями, комментарии в открытом профиле), понимать сигналы (эмодзи как замена мимике) и управлять самопрезентацией. Это тоже требует огромных затрат энергии и времени, хотя не создаёт «сложных знаний», необходимых для развития общества. Всё так, вот только большинство перерабатываемой вашим мозгом информации – просто информационный мусор.

Может ли человек сознательно выбрать путь получения «сложных знаний», а не малозатратных по расходам энергии развлечений?

Думаю, что это не вопрос свободного выбора, а вопрос “энергетического баланса”, который регулируется физиологией и жестко ограничен фундаментальным законом природы. И если стимулы, которые общество (коллективный разум) предъявляет индивиду, разрешают ему экономить энергию, он будет её экономить.

Современное общество препятствует созданию и распространению «сложных знаний».

Конечно, общество не говорит «знание — это плохо». Оно говорит: «знание — это дорого, долго и неудобно», и перераспределяет потоки энергии (внимания, денег, дофамина) в пользу более простых и быстро монетизируемых вещей.

В традиционных обществах (и даже в XX веке) носитель сложного знания — профессор, инженер, писатель — обладал высоким социальным статусом. К нему прислушивались, его уважали.

В современном обществе потребления и медийной культуры статус часто определяется не знанием, а узнаваемостью и потреблением.

Блогер с миллионом подписчиков (даже если он снимает распаковку игрушек) часто имеет больший социальный вес и влияние, чем лауреат научной премии.

Коллективный разум (лента соцсетей, алгоритмы) вознаграждает (лайками, репостами) не глубину, а эмоциональную реакцию и скорость реакции. Сложный текст требует вдумчивости, его сложнее быстро «лайкнуть». Короткая провокация или мем распространяются мгновенно.

Таким образом, социальный сигнал для молодого человека: хочешь быть популярным, заметным, значимым — иди в шоу-бизнес или блогинг, а не в науку или философию.

Современное общество не поощряет создание сложного знания. Оно:

1.  Не дает быстрой дофаминовой награды (в отличие от развлечений).

2.  Не гарантирует социального статуса (ученый против блогера).

3.  Плохо монетизируется (фундаментальная наука против прикладных IT-решений).

4.  Требует усилий, которые рынок внимания не готов вознаграждать.

Может ли развитие коллективного разума привести к разрушению цивилизации?

Безусловно, сегодняшние тенденции, если сохранятся, приведут к отсутствию новых сложных знаний. Кстати, все значимые фундаментальные открытия были сделаны в конце 19 – начале 20 века. За последние 50 лет наука имеет скорее эволюционный характер. Если не считать лженауки, типа изобретения всё новых и новых элементарных частиц.

Изменение стимулов общества возможно только в результате катастрофы современного «общества изобилия». Возможно, нынешнее «падение в развлечения» — это временная фаза, вызванная «извращениями от изобилия». Когда общество столкнется с реальными ограничениями базовых потребностей, сложное знание будет востребовано как инструмент выживания. Стресс часто является лучшим стимулом для корректировки извращений, чем сытость.

Рубрики
Artificial Intelligence

Осторожно, ИИ! (Продолжение)

Продолжаем выдергивать перышки из хвоста этого павлина. Когда вы исследуете какую-то тему с помощью ИИ, обратите внимание, что ИИ в своих ответах использует неоправданно большое количество обобщений, которые размывают точный смысл ответа и делают его более универсальным и более бесполезным. Например, вместо «отремонтировать стул» он сформулирует «привести в порядок мебель». У второго варианта фразы огромное количество смыслов. И каждый будет представлять себе, что именно то, что он думал, и имелось в виду в ответе.

А на самом деле в виду не имелось ровно ничего. Для того, чтобы делать меньше диких ошибок, разработчики ИИ увеличивают веса обобщенных категорий по сравнению с более конкретными. Это как пифии в древней Греции – нанюхавшись химии, они изрекали свои предсказания, в очень обобщенных формулировках. И каждый подгонял их под свои собственные представления, и как-то так получалось, что всегда предсказания сбывались. Туда же и предсказания Нострадамуса, и любую гадалку с её «дальней дорогой и марьяжным королем». Это всего лишь один из приемов психотехник для введения людей в заблуждение.

Информация о ближайших мероприятиях Национального объединения специалистов по безопасности бизнеса: https://www.acfe-rus.com/

Рубрики
Artificial Intelligence

Осторожно, ИИ

Об этом не говорят, и в школе этому не учат. Мир делится на две большие группы: энтузиастов ИИ и скептиков, которые говорят о его вреде и бестолковости. И о том, что это вовсе не ИИ.

И они тоже правы. А вот о том, что ИИ — это очень специфический инструмент, с огромными ограничениями, никто не говорит. И вот об одном очень важном ограничении ИИ я сегодня расскажу.

Вот оно: ИИ (LLM модели) находят хорошие решения для задач, которые уже решались множество раз и эти решения можно найти в интернете, пусть даже в самых неожиданных местах. Если ваша задача не никогда решалась, то вероятность «глюков» ИИ и их степень их нелепости резко возрастает. Поэтому, прежде чем применять ИИ, оцените, насколько уникальна ваша задача.

Пример: CHATGPT на вопрос, как сделать, чтобы начинка не сползала с пиццы, дал ответ, что её надо приклеить нетоксичным клеем. Почему он так ответил? Потому что никто не решал такую задачу массово. Но один какой-то пользователь когда-то задал этот вопрос в каком-то чате и получил от кого-то шутливый ответ: приклей начинку нетоксичным клеем. Этот ответ народам понравился, завирусился, и получил много дублирований в интернете.

CHATGPT нашел этот единственный ответ, и поскольку он повторялся много раз,  счел его за найденное решение проблемы.

Вывод: не решайте те задачи, которые ещё никто не решал, с помощью LLM моделей. Они не умеют изобретать, они умеют только комбинировать, но они не могут сами оценить качество полученного результата. Это придётся делать вам вручную. 

ИИ хорошо расширяет пространство вариантов, но плохо отделяет жизнеспособные решения от правдоподобного мусора. Без дешёвой системы проверки увеличение числа вариантов может не облегчить, а усложнить работу человека.

Рубрики
Artificial Intelligence Business Future Society

ИИ тронулся, господа

25 ноября 2019 года случилось событие, которого долго ждало всё прогрессивное человечество в моём лице. Франсуа Шолле из Google написал правду, которую его компания не может пока открыто признать. А именно, что всё, что сейчас называют «искусственным интеллектом», на самом деле не искуссттвенный интеллект, а полная хрень. И вообще никто не знает, что такое искусственный интеллект. Потому что определения нет, а те, что есть, тоже полная хрень. В оригинале статья здесь. А на русском языке её пересказ с упрощениями до уровня понимания среднего читателя – здесь.

Это всё написано на 64 страницах, очень умными словами. И получило творение название «Манифеста Шолле». И все сейчас восхищаются смелостью автора и точностью формулировок.

И готов я его полностью поддержать, тем более что всё ровно то же я писал еще 4 июля 2018 году в своей статье «Жопа есть а слова нет». А еще раньше писал то же самое 23 июня 2017 года в статье «Вечный двигатель и искусственный интеллект«. Но поскольку я не сотрудник Гугла, то не было восхищения читателей и журналистов смелостью автора и точностью формулировок. А было в среде адептов религии искусственного интеллекта нечто похожее на бурление говна.

Но приятно, что хоть и позже после меня на два-три годика, но в Гугле таки дошли до той же самой мысли.

Мораль сей басни: если хотите узнавать кое-что важное лет на пять раньше остальных, читайте мой блог. Вдумчиво. И будет вам счастье.

Рубрики
Artificial Intelligence Business Future Society Software quality

Новая вера или из жизни муравьёв

     Когда Генри Форд изобрел конвейер (хотя это не он его изобрел), это привело к прорыву в производительности труда. Машины по цене стали доступны для рядового потребителя (средний класс). Оборотная сторона медали: каждый из работников конвейера умел закручивать одну только гайку и выполнять только одну элементарную операцию. Он не представлял себе, как работает автомобиль, из каких частей он состоит и как они между собой взаимодействуют. Сегодня человек становится всё более специализированным существом. Высоко оптимизированным для одной единственной операции. Хорошо это или плохо? Говорят, что для решения проблемы нужно уметь увидеть её с целиком (helicopter view). Способны ли даже тысяча таких рабочих конвейера, собравшись вместе, объединённые сколь угодно эффективной системой коммуникаций, увидеть «автомобиль» целиком, а не как набор определённым образом соединённых деталей? Думаю, что нет. Для этого нужны не только знания, что с чем соединять, куда что прикручивать, но также знания механики, физики, математики, эргономики и других чуждых для них знаний.

Пример, конечно, утрированный. Но на полном серьёзе периодически встречаются высказывания, что «наша программа не имеет алгоритма, она работает по принципам искусственного интеллекта». Что такое искусственный интеллект, и то, что он основан на тех же самых алгоритмах, мало кто понимает. Как и то, что алгоритмы пишут программисты, которые имеют свойство ошибаться. Как и все другие люди. Те, кто писал когда либо программы, знают, что ошибка может оставаться необнаруженной долгие годы, особенно, если нет возможности независимой проверки решений, выдаваемых программой. Предположим, вы купили программу, которая анализирует резюме кандидатов и отправляет в помойку те из них, которые не отвечают заданным вами критериям. Вы свято верите в то, что программа действительно анализирует на соответствие вашим критериям и никак иначе. Скорее всего, это не так, если у вас нет другой, независимо разработанной программы, которая делает то же самое – чтобы сравнить результаты. А у вас её нет, а если бы и была, то вы вряд ли сможете проверить, как она работает во всех режимах. Например, она может прекрасно отбирать по трём критериям, а на четвертый реагировать только в том случае, если термин написан большими буквами.

Это типичная проблема SAP  и других подобных систем.  Пользователь хочет одно, консультант понял кое-что и запрограммировал другое, в результате после 10 неудачных попыток создания разных форм отчётов конечный пользователь оставляет всякую надежду и начинает по-тихой вести табличку в Экселе. Наблюдал это неоднократно, проводя аудиты. И это хорошо, если пользователь обнаруживает ошибку ручным подсчётом, а во многих случаях ошибка остаётся незамеченной. Я встречал даже случаи умышленного мошенничества, в которых SAP использовался как инструмент манипуляций с финансовой отчетностью. А что – идеальное преступление: мало кто понимает, как делаются эти отчёты, да и в случае чего «ошибку» можно списать на дурака-консультанта.

В науке есть такой критерий: если теорию нельзя проверить или представить себе некий эксперимент, который мог бы её опровергнуть, то эта теория считается ненаучной. В неё можно только верить. Или не верить. Как в бога или НЛО. Так вот, мы вступили в принципиально новую эпоху существования человека. Это эпоха веры не в бога, а в безгрешность решений, принимаемых информационными системами. И зависимости от них. Проверить, правильно ли работает программная система резервирования билетов, расчёта прибыли или отсеивания кандидатов мы не можем – значит, остаётся только свято верить в безгрешность систем, принимающих решение об отказе в выдаче вам визы или запуске ракет.

Мы вступили в эпоху, когда компьютеры управляют людьми без права обжалования или аппеляции…

Сопутствующие мысли по теме

1. Человек имеет два варианта в отношении любого нового явления: либо найти ему объяснение исходя из законов природы и логики и научиться им управлять; либо просто придумать непроверяемое объяснение и поверить в него. Во втором случае существует больше вариантов для манипуляции массами — потому что придумать можно всё, что угодно. Например: «Наша биллинговая программа показала, что вы израсходовали за час 6 Гб». «Но я  вообще не включал телефон!» «Ничего не знаем, наша программа не ошибается» — такой диалог у меня был реальности с одним сотовым оператором на букву М.

2. Про подбор персонала — там действительно уже идёт «война машин». Рекрутеры получают слишком много резюме, чтобы их просмотреть, и покупают программы, которые отсеивают резюме. Соискатели, наоборот, изобретают методы автоматической подгонки резюме под критерии отбора и веерной рассылки. В результате объемы циркулирующей туда-сюда информации выросли в миллионы раз без какого-либо качественного результата. Робот нашел вакансию — робот адаптировал резюме — робот сделал рассылку — другой робот прочитал- выкинул в корзинку-направил отказ. Рекрутер бъётся об стенку — никого нет, а те кто прошёл все фильтры — полный неадекват. Соискатель не понимает, почему он не может найти работу.

И вот оно — прилетело как доказательство (13.07.2016): «Зарегистрировался очень давно на Superjob в качестве работодателя, аккаунтом не пользовался много лет. Сегодня получил на почту такое письмо: «Вам нужен HR-bot? Закажите его разработку Superjob! Чат-бот от Superjob уже подбирает сотрудников «Связному» в Telegram: в день @Svyaznoyhrbot проводит сотни собеседований и получает десятки контактов. HR-бот не просто задает кандидату вопросы, подготовленные при помощи его будущих руководителей, но и дает обратную связь. Срок разработки и запуска бота после согласования технического задания — 7 рабочих дней.»

И ещё — (19.08.16): «Почта-банку потребуется автоматизация как массового найма, так и профессионального. Это будет достигаться за счет перевода традиционных этапов найма в онлайн-формат. Так, система Skillaz будет использовать автоматическую оценку и сбор резюме с открытого рынка, диалоговые тренажеры, тесты с автоматической оценкой кандидата на психологические и профессиональные навыки, видео- и аудиоинтервью»
(http://www.kommersant.ru/doc/3066680).

3. Сегодня, чтобы выжить, вы должны уметь придумать, как обмануть информационную систему. Для этого надо представить себе того ублюдочного кодера, который выродил этот говнокод, и его образ мышления. По моему опыту, сегодня оно на уровне простейших рефлексов животного уровня мыши или кролика. Скоро будут пользоваться популярностью курсы типа: «Как стать успешным и выжить в современном киберпространстве».

4. Есть еще одна беда: раньше было принято информировать пользователей об изменениях в программном обеспечении. Типа, вот теперь вы должны делать это так и так. Фильмики снимали, как освоить новизну. На трубе размещали. Ссылочки давали. Вот жисть была! А теперь Вы чувствуете себя как лабораторная мышь — и фактически ею являетесь. Вас никто не спрашивает. Обновления загружаются автоматически, программа начинает работать по-другому. Ваша мышиная задача — найти выход в лабиринте костылей и велосипедов и не сдохнуть от эксперимента внедрения Agile. Впрочем, потери мышки никто не заметит. Вот когда они начнут дохнуть тыщями… хотя и тогда вряд ли что-то произойдет. Ну, закроется один сайт, начнет работать другой. Программеры перетекут туда и будут творить, творить…

5.  Лет эдак 40-50 назад мы знали не меньше, чем сейчас, если считать объем информации. Да, не было мобильных телефонов, интернетов, а телевизор никто не смотрел по причине того, что смотреть там было нечего. Вместо интернета было издательство «Мир», книги которого надо было заказывать на почте по каталогу и ждать целый год. Но стоили они 1-2 рубля и на зарплату рядового инженера их можно было купить штук 100. Сейчас рядовой инженер для этого должен зарабатывать тысяч триста в месяц. Да он, может, столько и зарабатывает, беда только в том, что инженеров не осталось.

А тогда мы знали, как устроен карбюратор и радиоприёмник, и сами чинили всё, что нас окружало. То есть буквально всё. Весь мир вокруг был понятен и управляем, хотя и не простирался дальше соседней улицы. Сегодня мы можем открыть капот своего авто, глубокомысленно посмотреть на нечто и закрыть. Дай бог знать, куда бензин в неё заливать. Мы знаем очень много — но ни о чём. Телевизор работает потому, что на пульте нажимаем кнопки. Машина едет потому, что нажимаем на педаль — да скоро и этого не нужно будет. Наступает эра невыносимой легкости бытия…

6. Похоже, что развитие телекоммуникаций несовместимо с развитием разума. Поиск в Гугл заменяет нам учебники и годы труда на их изучение — стоит только набрать запрос. Правда, проверить правильность результата поиска никак не получится. Не всегда получится и понять смысл ответа. Но ведь это неважно. Вот и учёные обнаружили: развитие коллективного разума чревато сокращением интеллектуальных способностей у отдельно взятого индивида. Нейронные структуры, отвечающие за обучение, память и восприятие, у ос, живущих в одиночестве развиты намного сильнее, чем у тех, что проживали малыми группами или в сложных колониях. В последнем случае, осы и вовсе оказывались намного «глупее» своих собратьев-одиночек. Исследование

Статья про ос подтверждает тезис о том, что появление коллективного разума приводит к деградации индивидуального, что мы и видим сейчас в окружающей действительности. Лишите современного человека доступа к поисковикам в интернет, и проверьте его знания — его индивидуальный разум. И вы увидите, они очень невелики и в основном о том, какие кнопки на каком девайсе нажимать, чтобы получить еду.

А может быть, муравьи, пчёлы — это и есть цивилизации прошлых эпох, достигшие совершенства в своих коммуникациях? Когда коллективный разум окончательно победил индивидуальный?

7. «Да, обезьяньи высказывания просты — обычно в них от двух до пяти слов, — а словарный запас небогат. Самые продвинутые активно используют 400–500 слов, хотя понимают гораздо больше (впрочем, в пиджин-инглише всего около 600самостоятельных, несоставных слов — и это полноценный человеческий язык, на котором выходят газеты и вещают радиостанции).»(http://bit.ly/29W8Pa3). Мне тут вспомнилась статья о результатах последних вступительных экзаменов в МГУ? http://bit.ly/29JPb4f

8. А вообще искусственный интеллект отличается от натурального точно так же, как надувная женщина отличается от настоящей:)

Доподнительная информация по теме

   20.09.2018   «AI Systems Quietly Take Full Control Of Human Destiny» — и вот, что называется, ещё до одного дошло. Когда в стену лбом. С размаху. В переводе на наш: «Системы искусственного интеллекта потихоньку берут в свои руки судьбу человека»

     Цитата: «John Naish recounts an anecdote where, because he was once a motoring journalist, the AI software at his insurance company decided he was likely to know Jeremy Clarkson, and therefore might give him a lift in his car and drive dangerously. His insurance application was rejected! And of course, he complained but was told that given the same “Automated Decision Engine” was used across the industry, he was going to be screwed for insurance all over.»

В переводе на понятный. Парень захотел застраховаться. Но поскольку он автомобильный журналист, система AI решила, что он может быть знаком (заметьте: может быть!) с другим журналистом, который может его подвезти  и при этом может поехать слишком резво . И поэтому система решила, что не стоит продавать ему страховой полис. ПНХ. А поскольку страховые компании обмениваются рейтингами клиентов, то его послали ПНХ и все остальные страховые компании. Всё. Сказке конец.

Законодательство о правилах взаимодействия человека и принимающих решения систем отстаёт от реальности лет на 20. Только-только принимаются законы в области защиты и доступа к персональным данным, хотя это надо было сделать как минимум 10 лет назад, а по-хорошему — 20.

То же самое с системами, которые все называют «искусственный интеллект», хотя никакой это не интеллект вообще. Нужно срочно ввести в право нормы, по которым решение, принятое любой системой, может быть обжаловано, и в случае нанесения ущерба неверно принятым решением человеку, наступает ответственность того, кто «автоматизировал» процесс принятия решений.

06.07.2019 Независимое исследование показало, что 81% людей, которые распознаны уличной системой автоматического распознавания лиц в Лондоне как возможные подозреваемые, оказались невиновными. То есть 4 из пяти опознанных «искусственным интеллектом» как опасные преступники были ни в чём не виноваты. Это так называемая ошибка «false positive». А сколько настоящих преступников остались неузнанными-нераспознанными?

Наверное, ещё несколько лет — и после появления 3D видеокамер, мощных алгоритмов и железа, встроенного в каждую камеру, надёжность распознавания повысится до хотя бы 80%. А пока — делите на 1000 обещания чудес науки и техники от продавцов воздуха под названием «искусственный интеллект».