Ограничения ИИ для психологических целей

У меня, как у пси­ха со ста­жем, нако­пил­ся в обще­нии с про­фес­си­о­на­ла­ми пси­хо­те­ра­пии и про­чи­ми доволь­но боль­шой опыт. Нын­че в интер­не­тах пол­но отзы­вов людей, обра­ща­ю­щих­ся вме­сто обыч­но­го пси­хо­ло­га, к систе­мам иску­ствен­но­го интел­лек­та. Это с одной сто­ро­ны хоро­шо, пото­му как луч­ше всё же обра­тить­ся хоть к чему-то, чем не обра­щать­ся вооб­ще ни к кому. Но с дру­гой сто­ро­ны, у ИИ есть в этом отно­ше­нии серьёз­ные недо­стат­ки, и непло­хо бы о них знать.

Напри­мер, у боль­ших язы­ко­вых моде­лей есть про­бле­ма под­ха­ли­ма­жа (AI sycophancy). И это пло­хо. Они ведь бук­валь­но запро­грам­ми­ро­ва­ны на то, что­бы тебя любить.

Спро­сишь что угод­но — они в ответ сия­ют все­ми пер­цеп­тро­на­ми:
–Какой умный вопрос!
–Ты затро­ну­ла крайне инте­рес­ную тему, умни­ца!
–Да-да, доро­гая, ты мыс­лишь в пра­виль­ном направ­ле­нии!

И всё это в одной и той же веж­ли­во-вос­тор­жен­ной инто­на­ции. Абсо­лют­но все без исклю­че­ния ИИ зани­ма­ют­ся тако­го рода под­ха­ли­ма­жем.

И вот из-за это­го, когда к ним при­хо­дят с пси­хо­ло­ги­че­ски­ми вопро­са­ми, они ока­зы­ва­ют­ся бес­по­мощ­ны. Они не уме­ют ска­зать: «А может, дело в тебе?»

Напри­мер, если прий­ти к ИИ с жало­бой: «Мой муж нико­гда не гото­вит обед для семьи», ИИ сра­зу нач­нёт под­би­рать дели­кат­ные фор­му­ли­ров­ки:

–Попро­буй пого­во­рить с ним мяг­че
–Может, ему про­сто тяже­ло?
–А вдруг его раз­дра­жа­ет запах готов­ки?

А вот живой пси­хо­лог для нача­ла уточ­нит:

—«А что муж вооб­ще дела­ет по дому?»

И когда выяс­нит­ся, что он:

  • каж­дые пару дней выти­ра­ет всю пыль и пыле­со­сит весь дом
  • сти­ра­ет всю одеж­ду
  • раз­во­зит детей по сади­кам, шко­лам и круж­кам
  • пере­мы­ва­ет всю посу­ду
  • чинит всё, что лома­ет­ся
  • по выход­ным бега­ет с детьми на лыжах
  • все­гда помо­га­ет детям с домаш­ней рабо­той
  • рабо­та­ет на пол­ную став­ку
  • при­но­сит в дом боль­ше все­го денег

пси­хо­лог толь­ко акку­рат­но отки­нет­ся в крес­ле и спро­сит:
—«А не зажра­лась ли ты, мать?»

Вот и вся раз­ни­ца: ИИ под­дер­жит, а пси­хо­лог — отрез­вит. И, если чест­но, ино­гда вто­рое полез­нее.