ИИ в мирных целях

Сотрудник, чьи фотки в голом виде мне прислала по почте его бывшая жена с крепко протекающим чердаком, в очередной раз собрался идти в суд. Чего-то они там опять не поделили.

Сотрудник попросил мне написать ему характеристику с места работы. Писать всякую ерунду — дело нынче не царское. Обратился, конечно, в ЧатЖПТ. “А напиши-ка мне, батенька, на него характеристику, положительную, как в профессиональном, так и в личном качестве”. Написало, да так, что я в паре мест сам чуть не прослезился.

“Однако что действительно отличает Мартѝна Гарсию от других, так это его роль любящего отца. Его преданность благополучию и воспитанию дочери поистине вдохновляет. Я видел, как он делал все возможное, чтобы создать заботливую и поддерживающую среду для своего ребенка. Мартѝн Гарсия прививает им такие ценности, как уважение, сопереживание и трудолюбие, подавая пример во всех аспектах своей жизни. Его безусловная любовь и неизменное присутствие в жизни дочери сами служат свидетельством его характера и приоритетов.”

Гладко пишет, зараза!!!

PS: Да, сотрудник — действительно хиспаник, если чо.

Ну зашибись теперь

Начали появляться первые жертвы искуственного интеллекта. Слава Асклепию, не здоровьем пострадали, но кошельком. Граждане жулики использовали ЧатЖПТ и подобное для написания “книг”. Далее они шлёпали на обложку имя известного автора и продавали на Амазоне. Даже интересно стало, сколько эти гниды денег заработали. В ответ на изначальный запрос автора в Амазон не было сделано… ничего — писать и продавать книги может кто угодно, а на имя автора не распространяется копирайт.

Слава Юстиции, но постепенно Амазон всё же пришёл в чувство, и книги удалил. Но осадочек остался… гм. В принципе, конечно, ничего нового — подделки под известных авторов были всегда. И картины писали “под Репина”, и книги-пастиши писали тоже. Но исключительная легкость, которую дают современные системы ИИ, выводит данное явление на совершенно новый уровень.

via Ars Technica

Как я уже много раз говорил, юридические проблемы с системами искуственного интеллекта надо решать СРОЧНО, и ПРЯМО СЕЙЧАС. Потом будет поздно.

Микрософтовская болталка

Я, признаться, ожидал лучшего. Она даёт фактически неверные ответы и работает дольше, чем ЧатЖПТ. Сначала ищет ответы в своих бингах, а потом резюмирует найденное. Вот, вопрос из теории музыки — в чём разница между нонаккордами C9 и Cadd9:

Болталка попыталась меня уверить, что в Cadd9 тоже есть септима, только она большая (B), а не малая (Bb). А вот шЫш, не было там никогда септимы. Cadd9 — это очень красивый аккорд с добавленной ноной (D).

При этом оно даёт ссылки с документами, в которых английским по белому написано, что септимы там нет. Я ему написал, что оно неправо. Извинилось.

Цирк с конями на нейронной тяге.

Про законы робототехники

У Айзека Азимова много написано про то, что три закона робототехники — это замечательно, но даже такие три простые правила можно интерпретировать по-разному. В одном из рассказов, не вспомню сейчас в каком, закон первый, т.е. “робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред” — был интерпретирован роботом как “людей надо нежно связать и запереть, чтобы они не причинили себе вред”. Что он незамедлительно и сделал.

А ныне ВВС США сделали симуляцию дрона, управляемого ИИ, который уничтожал системы вражеской ПВО. Прежде чем отбомбиться, ИИ запрашивал разрешения у оператора, который мог запретить уничтожение конкретно этого расчёта ПВО. Ньюанс в том, что за каждую уничтоженную систему ПВО искуственному интеллекту начислялись очки. Кончилось тем, что ИИ отбомбился… по оператору дрона, чтобы тот не выпендривался, и не мешал ИИ набирать эти самые очки.

https://www.theregister.com/2023/06/02/ai_drone_simulation/

Карманный Скайнет

По наводке ув. ny-quant. На видеокарте я запустить не смог, потому что у меня лапки. С форком GPT4AllGPU почему-то надо приставлять отдельную модель LLaMa, которую надо скачивать самому, и я не смог разобраться, какую. Поэтому запустил на процессоре.

С трудом, надо сказать, запустил. У меня восемь пеньков i7 десятого поколения и 64 гектара памяти:

Ответ на простой вопрос (как лучше всего гладить кошку) занимает минуту-две. А вот креативная деятельность (напиши мне поэму про сисадмина) уже йок, может пиликать минут десять и больше.

Запускаю через третий питон внутри WSL2.

Установить:

pip3 install nomic

Потом в интерактивном python3:

from nomic.gpt4all import GPT4All (в первый раз занимает очень много времени, скачивает натренированную модель)
m = GPT4All()
m.open()
m.prompt(“Write me a short story about a kitten”)

Я нарисовал простейший код чтобы общаться. Увы, грёбаное форматирование наверняка похоронит отступы:

#!/usr/bin/python3
from nomic.gpt4all import GPT4All
m=GPT4All()
m.open()
while(True):
prompt = input("Please ask me something or say STOP to quit: ")
if (prompt == "STOP"):
break
else:
response = m.prompt(prompt)
print(response)

Поиграюсь, но ресурсоёмкость, конечно, аховая.

Update: барахло полное. ЧатЖПТ хотя бы правильно на простые вопросы отвечал. Этот даже не знает, как запустить внешнюю программу с указанием параметров из скрипта на ПауэрШелле.

Гугл сломался?

У меня одного гуглопереводчик с английского на русский в последнее время выдаёт какие-то сепульки и клееглазые хляботрясы?

А Яндекс-переводчик нормально:

Переводил как раз части Соуэлла для раннего поста, обратил внимание.

За что боролись — на то и напоролись

То, что события будут развиваться именно так, я уже не раз предсказывал. Две новости, что характерно — от одного источника (Ройтер), даже сами статьи один и тот же человек писал.

Хотите, чтобы наниматель платил более высокую зарплату? Хорошо, только проверьте сначала, а действительно ли вы так незаменимы на своей работе. Тех же ресторанов самообслуживания становится всё больше — зарплату там платят действительно хорошую, только работают там не двадцать человек, а пять — три повара и два кассира.

А в магазинах всё чаще попадаются кассы самообслуживания — в которые я не хожу из принципа, так как моё согласие с их использованием предполагает увольнение людей.

Таким образом, из работы выдавливаются как раз те, у кого с ней и так всё не очень хорошо — нет образования, нет навыков, нет ремесла. И что с ними предлагается делать? Платить им велфер, что ли, сиречь, ББД? Придётся, видимо, так. Технократ Эндрю Йен именно такое и предлагает, а финансировать ББД предлагает из специального налога, собираемого на автоматизацию, из-за которой увольняют людей. Не скажу, что я вижу какую-то в этом несправедливость, только не уверен я в экономической и социальной целесообразности, да и вообще возможности данного дела.

Первый пошёл

Желѣзныя​ машины нападаютъ на людей. Первая жертва произвола полупроводниковъ.

“Экологически сознательный” бельгиец покончил жизнь самоубийством после длительных разговоров с чат-ботом Элизой, использующей технологию ChatGPT. Записи их разговоров говорят о том, что машина убедила его покончить с собой ради того, чтобы остановить глобальное изменение климата.

Оригинал (en français).

Протёр шары и перепроверил дату публикации — нет, не первоапрельский прикол.

Про оптимистов

Немца спрашивают: в чём разница между оптимистами и пессимистами в Германии?

–В 1944 году немецкие оптимисты учили английский, а пессимисты русский.

Сорян, навеяло всеми этими письмами за то, чтобы отключить и забетонировать системы ИИ. В наше время оптимисты учат как использовать искуственный интеллект, а пессимисты готовятся к вторжению Скайнета. И тоже становится очевидно, как немцам в 1944 году, что достаточно мощный ИИ поменяет всю нашу жизнь, вопрос только, в какую сторону. И да, этические вопросы действительно надо решать уже прямо сейчас.