Ограничения ИИ для психологических целей

У меня, как у психа со стажем, накопился в общении с профессионалами психотерапии и прочими довольно большой опыт. Нынче в интернетах полно отзывов людей, обращающихся вместо обычного психолога, к системам искуственного интеллекта. Это с одной стороны хорошо, потому как лучше всё же обратиться хоть к чему-то, чем не обращаться вообще ни к кому. Но с другой стороны, у ИИ есть в этом отношении серьёзные недостатки, и неплохо бы о них знать.

Например, у больших языковых моделей есть проблема подхалимажа (AI sycophancy). И это плохо. Они ведь буквально запрограммированы на то, чтобы тебя любить.

Спросишь что угодно — они в ответ сияют всеми перцептронами:
–Какой умный вопрос!
–Ты затронула крайне интересную тему, умница!
–Да-да, дорогая, ты мыслишь в правильном направлении!

И всё это в одной и той же вежливо-восторженной интонации. Абсолютно все без исключения ИИ занимаются такого рода подхалимажем.

И вот из-за этого, когда к ним приходят с психологическими вопросами, они оказываются беспомощны. Они не умеют сказать: “А может, дело в тебе?”

Например, если прийти к ИИ с жалобой: “Мой муж никогда не готовит обед для семьи”, ИИ сразу начнёт подбирать деликатные формулировки:

–Попробуй поговорить с ним мягче
–Может, ему просто тяжело?
–А вдруг его раздражает запах готовки?

А вот живой психолог для начала уточнит:

—”А что муж вообще делает по дому?”

И когда выяснится, что он:

  • каждые пару дней вытирает всю пыль и пылесосит весь дом
  • стирает всю одежду
  • развозит детей по садикам, школам и кружкам
  • перемывает всю посуду
  • чинит всё, что ломается
  • по выходным бегает с детьми на лыжах
  • всегда помогает детям с домашней работой
  • работает на полную ставку
  • приносит в дом больше всего денег

психолог только аккуратно откинется в кресле и спросит:
—”А не зажралась ли ты, мать?”

Вот и вся разница: ИИ поддержит, а психолог — отрезвит. И, если честно, иногда второе полезнее.

Католическая Церковь против ИИ

Интересная точка зрения, неожиданная (для меня).

Если вдруг кто не знает, Католическая Церковь до сих пор занимается изгнанием бесов (экзорцизмом). Периодически у католических священников-экзорцистов даже происходят слёты и конгрессы, на которых они обсуждают, среди всего прочего, отношения между церковью и оккультом.

Оккультных практик у людей много самых разных, и одной из наиболее популярных является вызов духов уже давно умерших людей (некромантия). Кто из нас не баловался подобными вещами? Мне в своё время тоже доводилось.

Дурь, конечно, полная, но весело.

А теперь с использованием ИИ нынче довольно легко, например, “воскресить” уже давно умерших актёров. Так, франшиза “Звёздных войн” продолжает использовать голос Джеймса Эрла Джонса, ушедшего в 2024-м, в образе Дарта Вейдера — нейросети отлично умеют его копировать. А если загрузить туда побольше данных — интервью, личные записи, блоги, — можно в теории воссоздать почти полноценного цифрового “покойника” со всеми мыслями и мировоззрением.

И, оказывается, с точки зрения Католической Церкви, это — некромантия, оккультная практика, анчихриство, и далее по алфавиту.

Забавно наблюдать, как древние страхи и определения находят новую жизнь в мире высоких технологий.

VIA ПРЕСС-РЕЛИЗ – XV Международный конгресс Международной ассоциации экзорцистов (на испанском, но прекрасно переводится прямо в браузере)

Внутре у ней нейронка

При работе с ChatGPT внезапно увидел новое (для меня) служебное сообщение:

И мне, конечно же, сразу вспомнилась цитата из нетленки “ПНС”:

“…одушевленный теперь “Алдан” иногда печатал на выходе: “Думаю. Прошу не мешать””

ИИ-логопед

А широко нынче шагает искуственный интеллект. Оказывается, теперь есть программы искуственного интеллекта, занимающиеся постановкой голоса. В частности, есть приложение Vocal Image, при помощи которого можно ставить нужные тебе задачи, например, если хочешь из писклявого “жестяного” голоса сделать роскошнейший, глубокий, бархатный бас, как у Моргана Фримена. Кстати, Фримен тоже не родился с таким голосом, а голос ему поставил речевой инструктор в городском колледже Лос-Анжелеса, где Фриман изучал актёрское мастерство. Чисто для справки.

Программу, по-моему, делали те же люди, что сделали ДуоЛинго. Во всяком случае, там навалом знакомых элементов интерфейса — сколько дней подряд занимаешься, и т.д. Послушаем. Покамест у меня недельная триальная версия, но пока нравится, так что, наверное, подписку оставлю.

Из интересного — можно оценить свой голос на разные параметры, в частности, на акцент.

Ну, примечательного ничего нет, какой же у меня ещё может быть, спрашивается, акцент?

Canada, eh?

Интересно, насколько тонко ловит всякую экзотику?

Да, пишут, что снижение акцента также возможно при помощи этой программы. В мои задачи не входит, но может быть, кому-то будет интересно. В интерфейсе выставляешь свою основную задачу: улучшение дикции, постановка голоса для проведения презентаций, “голосовая терапия” (не знаю, что это), улучшение певческого голоса (!), уменьшение акцента, улучшение коммуникационных навыков, и так далее.

В-общем, пока интересно, но какие могут быть заметные улучшения за такой короткий срок? Погляжу, что будет дальше.

Про аутизм и искуственный интеллект

Заниматься самодиагностикой иногда бывает неполезно. Однако, так как я уверенно набираю дофига баллов на простеньких тестах на аутизм, типа AQ, я стараюсь в последнее время побольше разобраться в своей очевидно не вполне нейротипичной голове. Читаю записки других аутистов, постоянно натыкаюсь на знакомые моменты. Например, на то, что личное общение — выматывает, “да когда же, наконец, это всё закончится”. При этом у меня нет проблем прочитать, например, доклад или лекцию перед полным залом на сотню человек (и читал). Но чтение доклада — это не общение. На темы, лично мне интересные, я могу без устали рассказывать всякое километрами, боясь упустить мелкие детали, только мне кажущиеся важными. Я и посты иногда пишу такие, по подаче не то доклад, не то лекция.

А вот когда перед тобой сидит человек, то тебе абсолютно непонятно, что надо сказать в какой ситуации, как правильно реагировать на слова, с чего начать, как спросить, и так далее — и это реально выматывает. Я не умею читать чужие эмоции или язык тела. За многие годы научился неким безопасным шаблонам и деревьям разговора, но не более. “Я”, который сидит перед другим человеком — это маска, это актёр, играющий роль.

Поэтому продолжая исследования своей головы при помощи ChatGPT и вопросников иногда натыкаешься на вопросы, реально приводящие в ступор. “Тяжело ли вам быть собой”? Блин, мне вообще “быть кем-то” тяжело! Моё представление никогда не заканчивается, оно не временное усилие — а повседневная ежеминутная реальность.

Да, я в курсе, что ChatGPT это неполноценная замена психотерапии, и что возможны ошибки (плюс есть пара легальных моментов, см. закон HIPAA, который обязаны соблюдать врачи, а ИИ — уже нет). Однако по широте знаний с системой искуственного интеллекта не может состязаться никто. Хочешь — поговорим про эти особенности психики, а хочешь — про совсем другие. Психиатры из мяса и костей же обычно специализируются на довольно узком профиле, например, на семейной терапии или на биполярных расстройствах — и дальше своей специализации имеют только очень общие знания.

Так что общение с ИИ лично для меня было крайне продуктивным. Исключительно приятно, наконец, найти ответы на многие вопросы, и положить свою идентичность в категорию/категории с правильной надписью. Это даёт внутренний мир и выброс дофамина, эндорфинов, окситоцина, и прочих крайне приятных веществ.

Рекомендую.

PS: Последнее время только в мобильной версии ChatGPT постоянно происходят сбои. Вопросы иногда приходится задавать по много раз. Видимо, это как-то связано с апгрейдом версии до ChatGPT 5, ставшей мне доступной вчера.

А ещё в Атланте

Я впервые в жизни увидел беспилотные такси “Уэймо” (Waymo). Я сначала подумал, что это какая-то мигалка у неё на крыше; нет — просто вращающаяся на 360 градусов камера.

Фото не моё, но снято было тоже в Атланте.

Увы, лично не опробовал — всё нужное было и так в шаговой доступности, но ездили эти штуки реально как по рельсам — с нечеловеческой точностью поворачивали, останавливались, разгонялись.

Быстрее бы будущее приезжало повсеместно.

Про музыку

Когда я получал бакалавра, вторичная концентрация у меня была на музыке. И определение музыки, данное нам на самом первом занятии (MU-101, Music Appreciation), гласило, что:

Музыка — это намеренная организация звуков, создаваемых человеком во времени, за исключением речи, обычно включающая ритм, мелодию, или гармонию.

То-есть, даже два человека, хлопающих в ладоши в определённом ритме — это музыка. Это, может быть, не очень интересная музыка, но тем не менее, это музыка.

Ключевое тут — “создаваемых человеком”, именно поэтому я и выделил эти слова. То-есть, звук прибоя, при всей его ритмичности — музыкой не является.

Как мне кажется, мы сейчас находимся на некоем распутье. Являются ли звуки, издаваемые миди-сиквенсером, музыкой? Ну как бы да — миди-сиквенсер-то был запрограммирован человеком. А вот являются ли музыкой создания искуственного интеллекта? Тут уже грань сильно размыта. Человек, безусловно, обучал нейросеть на существующем музыкальном материале, закладывая в него некие паттерны музыки, но сам творческий процесс в нейросети уже происходит автономно, по интерпретации текстового промпта. Таким образом, эти звуки, являются создаваемы уже не человеком, а машиной. Следовательно, в узком определении музыки, музыкой они уже не являются.

С другой стороны — если бы не человек, не было бы никаких нейросетей, так что даже если сильно опосредованно — но человек тоже принимал тут участие. Не могу я придти к однозначному ответу.

В-общем, цитата из бессмертного “ПНС” тут как нельзя к месту!

“На столе рядом с ванной появилось отвратительное существо, похожее на ежа и на паука одновременно. Эдик приподнялся и заглянул на стол.
— Ах, — сказал он и снова лег. — Это не жизнь. Это нежить. Разве Кощей Бессмертный — это небелковое существо?
— А что тебе надо? — спросил Корнеев. — Двигается? Двигается. Питается? Питается. Размножаться может. Хочешь, он сейчас размножится?
Эдик вторично приподнялся и заглянул на стол. Еж-паук неуклюже топтался на месте. Похоже было, что ему хочется идти на все четыре стороны одновременно.
— Нежить не есть жизнь, — сказал Эдик. — Нежить существует лишь постольку, поскольку существует разумная жизнь. Можно даже сказать точнее: поскольку существуют маги. Нежить есть отход деятельности магов.”

Про замену техподдержки ИИ

А я, кстати, с оптимизмом смотрю на потенциальную замену технической поддержки агентами искуственного интеллекта. Потому что когда в техподдержку звоню я, сись-одмин со стажем, значит, сломалось что-то настолько сильно фундаментальное, что первый уровень поддержки, который максимум, что может сделать — это посоветовать вытащить из розетки штеккер, и воткнуть его обратно — не поможет просто с гарантией.

Картина — “Ваш звонок очень важен для нас”, Вася Ложкин.

К тому же нынче в техподдержке одни сплошные раджкумары с дипаками и прийанками — мало того, что их хрен поймёшь, ещё им втесать, что тебе нужно, часто настолько сложно… Так что если это поможет быстрее достучаться до нужного уровня, где люди могут, например, прописать новый аппаратный адрес (MAC) маршрутизатора, который я подключаю к модему, и уменьшит время ожидания, так как ИИ может окучивать в сто раз больше звонков одновременно — я могу это только приветствовать.

Что до людей, в этой техподдержке работающих — ну, если все ваши умения сводятся к зачитыванию текста с диаграммы устранения неполадок — у меня для вас плохие новости. Что с этим делать в перспективе — пока понятно слабо.

ИИ-Пигмалион

Надо будет написать книгу про то как жил да был один сисадмин, а потом настроил он внутри WSL2 нейронную сеть Stable Diffusion, загрузил в неё модель katafract_v10, долго колдовал с промптом и сидом, и начал генерировать портреты (ему лично) красивых дам, на которых он так долго смотрел, что в них влюбился.

Шутка.

Но я был удивлён, что даже локальный ИИ теперь способен генерировать очень неплохие картинки. И видеокарточка у меня не сказать, чтобы сверхмощная — RTX3080 GTX, 12 гигабайт. А вот тонко настроив промпт и сид, можно действительно генерировать очень похожих дам — как если бы они были родными сёстрами.

Вот тут самую малость генерация рук подкачала. На левой руке шесть пальцев. Ну, пусть у прекрасной дамы будет полидактилия, бывает, случается. Нравится мне она не за это.

Ну и на закуску — самый удавшийся кадр, ящетайу.

И всё это — без всяческих под-писек на ИИ-инструменты, всё выполняется локально, ничего никуда не отсылается, используются только местные ресурсы.

А ещё… а ещё модель katafract_v10 является нецензурированной. То-есть, даму, если прямо хочется, можно и раздеть. Но это уже немного не в ту степь, поговорить я хотел не об этом, а о том, как я был удивлён, что для довольно неплохой генерации картинок нынче легко можно запускать нейросети локально. Более того — картинки Stable Diffusion можно генерировать целиком на ЦПУ, без графического акселератора. Правда, время генерации улетает в стратосферу, но если очень сильно хочется…

ИИ в военных целях

Оказывается, ЧатЖПТ неплохо умеет в анализ спутниковых фотографий.

Пользователь:
Это спутниковое фото в России. Что это такое?

Ассистент:
Объекты на спутниковом изображении, по всей видимости, являются мобильными пусковыми установками или пусковыми установками на транспортере (TEL), расположенными на подготовленных площадках. Такая конфигурация характерна для военных ракетных баз, особенно для зенитных или тактических ракетных комплексов.

Основные признаки:
Линейное расположение на бетонных площадках с подъездными путями.
Длинные тёмные транспортные средства, по размерам и форме похожи на TEL.
Окружающие валы или ограждения, которые предполагают защиту от взрывов.
Удалённое, лесистое местоположение, типичное для стратегических объектов в России.

Возможные варианты:
Учитывая, что это в России, это могут быть TEL от:

Искандер-М (баллистические ракеты малой дальности)
С-300 или С-400 (зенитно-ракетные комплексы)
Тополь или Ярс (МБР, но у них другое размещение)
Хотите, я помогу сравнить это с известными ракетными базами?

Пользователь:
Это ПВО. Какой тип ЗРК?

Ассистент:
Спасибо за уточнение. Судя по конфигурации — стационарные позиции с ТЕЛами на бетонных платформах и в контексте российской армии — это ЗРК С-300 или С-400 “Триумф” (по классификации НАТО — SA-21 Growler).

На основе видимых признаков:
По 4 пусковые установки на площадке, каждая с 4 длинными контейнерами.
Конфигурация напоминает С-300ПМ/ПМУ или С-400.
TEL расположены в шахматном порядке, что типично для таких систем.

Наиболее вероятный вариант:
С-400 “Триумф” (SA-21 Growler):
Самый современный ЗРК России.
Использует ракеты 9М96, 48Н6, 40Н6 (дальность до 400 км).
Пусковые установки типа 5П85ТЕ2/СЕ2, которые похожи на изображение.

Возможная альтернатива: С-300ПМ/ПМУ:
Более старая система, но похожая структура размещения.
Чтобы точно определить С-400, нужны:
Радиолокационные станции типа 91Н6Е (Big Bird) или 92Н6Е (Grave Stone).
Характерный внешний вид TEL на более новых шасси.
Если у вас есть более широкое изображение, я помогу точнее определить.

Пользователь:
Вот более широкое изображение, как ты просил.

Ассистент:
Спасибо. На этом спутниковом изображении ясно видна российская позиция ЗРК большой дальности, и по компоновке можно с высокой уверенностью утверждать, что это С-400 “Триумф” (SA-21 Growler).

Основные элементы:
1. Пусковые установки слева:
4 длинных тубуса на каждом TEL.
Характерны для 48Н6 или 40Н6.

2. РЛС наведения в центре:
Мачта с прямоугольной антенной — похоже на 92Н6Е Grave Stone.

3. Командные пункты и машины связи:
В районе правее центра, возможно, командный пункт 55К6.

4. РЛС обнаружения (вверху):
Большая стационарная антенна — вероятно, 91Н6Е Big Bird.

Вывод:
Это почти наверняка позиция ЗРК С-400 “Триумф”, предназначенная для защиты от воздушных и баллистических угроз.
Хотите, я нарисую схему расположения элементов?

Пользователь:
Вот координаты: 55.673808335283326, 38.36239190529882

Ассистент:
Спасибо.
📍 55.6738° N, 38.3624° E — эта точка находится к юго-востоку от Жуковского, недалеко от Москвы.

Проверка:
Это подтверждённая позиция С-400 “Триумф” (SA-21 Growler), входящая в состав системы ПВО Москвы.

Она относится к 5-й армии ПВО-ПРО, и её задачи:
Защита стратегических объектов и командных центров.
Многоуровневая оборона от самолётов, КР и БР.

Почему это точно С-400:
Есть РЛС 92Н6Е.
TEL с новыми ПУ.
Характерная конфигурация центра управления.
Размещение в зоне стратегической важности.

Итог:
Это позиция С-400 “Триумф”, один из важнейших узлов системы A2/AD (антидоступ/зона запрета) вокруг Москвы.

Хочешь — могу сделать схему с подписями или дать историческую справку по базе.