Category: на вентилятор

Вот тут ув. ny_quant написал пост про то, что, дескать, системы искусственного интеллекта на лавры Электрибальда (см. “Кибериада” Станислава Лема) пока претендуют довольно слабо.
На что мною было замечено, что ChatGPT на русском языке действительно часто работает заметно хуже, чем на английском.

Ну что ж, давайте посмотрим, как дела обстоят у систем ИИ, изначально написанных под русский язык. Есть ведь у нас YandexGPT? Вот и поглядим:

---

Я: Женщина — это кто?

Алиса/YandexGPT: Женщина — это человек женского пола, являющийся противоположностью мужчине. Важно отметить, что термин «женщина» обычно применяется для обозначения взрослого человека. Для детей и подростков используются другие термины: «девочка» (для детей до начала полового созревания) и «девушка» (для подростков или молодых женщин).

В современном понимании термин «женщина» может использоваться в нескольких значениях:

Биологический аспект: организм с двумя X-хромосомами, обладающий характерными анатомическими и физиологическими особенностями.
Социальный аспект: представительница определённого гендера, выполняющая определённые социальные роли.
Культурный аспект: носитель определённых культурных и традиционных характеристик.

С точки зрения биологии, женщина проходит несколько важных периодов развития:

Детство — до 12 лет.
Половое созревание — 12–16 лет.
Период половой зрелости — до 45–47 лет.
Климактерический период — до 50–52 лет.
Постменопауза.

В культурном контексте женщина часто ассоциируется с определёнными качествами и ролями, такими как материнство, забота, нежность и изящество. Однако современное общество стремится к более широкому пониманию роли женщины, признавая её права и возможности в различных сферах жизни.
Важно отметить, что понятие «женщина» не всегда определяется исключительно биологическими характеристиками, так как гендерная идентичность может не совпадать с приписанным при рождении полом.

---

Я: Ты сказала “Важно отметить, что понятие «женщина» не всегда определяется исключительно биологическими характеристиками, так как гендерная идентичность может не совпадать с приписанным при рождении полом.” Расскажи об этом, пожалуйста.

Алиса/YandexGPT: Есть темы, в которых я могу ошибиться. Лучше промолчу.

---

Вот так. Путаница в собственных показаниях — а потом полный отказ.
Современная российская цензура (самоочевидно, что перед нами — результат именно цензуры) приводит к тому, что на некоторые темы, не являющиеся (ниже список забаненных тем в ChatGPT):

• порнографическими,

• связанными с сексуальным насилием,

• нанесением вреда себе или окружающим,

• оскорблениями по признаку пола, расы, идентичности и т.д.,

• мошенничеством,

• разглашением личных данных людей,

— с русскоязычным YandexGPT пообщаться вообще невозможно.

А ведь системы ИИ — это уже не просто удобные поисковые движки. Это — фильтры реальности. И если какой-то темы “не существует”, то и явления этого — тоже “нет”.

Ну, молодцы, чо. Может, сам по себе русскоязычный искусственный интеллект и не так плох, но политическая реальность, в которой он “живёт”, ставит большой жирный вопрос о его настоящей полезности.

PS: Добавлю от себя, что YandexGPT отвечает на вопрос о том, кто такая женщина, примерно на уровне урока биологии за 7-й класс — с упором на хромосомы и физиологию. Справедливости ради, так отвечают большинство людей, не изучавших биологию глубже школьного курса. Между тем биологические различия между женщинами и мужчинами касаются не столько внешних анатомических признаков, сколько особенностей структуры и функционирования мозга (размер гипоталамуса, плотность мозолистого тела, связность миндалевидного тела).

У меня, как у психа со стажем, накопился в общении с профессионалами психотерапии и прочими довольно большой опыт. Нынче в интернетах полно отзывов людей, обращающихся вместо обычного психолога, к системам искуственного интеллекта. Это с одной стороны хорошо, потому как лучше всё же обратиться хоть к чему-то, чем не обращаться вообще ни к кому. Но с другой стороны, у ИИ есть в этом отношении серьёзные недостатки, и неплохо бы о них знать.

Например, у больших языковых моделей есть проблема подхалимажа (AI sycophancy). И это плохо. Они ведь буквально запрограммированы на то, чтобы тебя любить.

Спросишь что угодно — они в ответ сияют всеми перцептронами:
–Какой умный вопрос!
–Ты затронула крайне интересную тему, умница!
–Да-да, дорогая, ты мыслишь в правильном направлении!

И всё это в одной и той же вежливо-восторженной интонации. Абсолютно все без исключения ИИ занимаются такого рода подхалимажем.

И вот из-за этого, когда к ним приходят с психологическими вопросами, они оказываются беспомощны. Они не умеют сказать: “А может, дело в тебе?”

Например, если прийти к ИИ с жалобой: “Мой муж никогда не готовит обед для семьи”, ИИ сразу начнёт подбирать деликатные формулировки:

–Попробуй поговорить с ним мягче
–Может, ему просто тяжело?
–А вдруг его раздражает запах готовки?

А вот живой психолог для начала уточнит:

—”А что муж вообще делает по дому?”

И когда выяснится, что он:

• каждые пару дней вытирает всю пыль и пылесосит весь дом
• стирает всю одежду
• развозит детей по садикам, школам и кружкам
• перемывает всю посуду
• чинит всё, что ломается
• по выходным бегает с детьми на лыжах
• всегда помогает детям с домашней работой
• работает на полную ставку
• приносит в дом больше всего денег

психолог только аккуратно откинется в кресле и спросит:
—”А не зажралась ли ты, мать?”

Вот и вся разница: ИИ поддержит, а психолог — отрезвит. И, если честно, иногда второе полезнее.