Category: программирование

Написал коммент ув. dibr, решил, что он достоин отдельного поста.

Скажу сразу, ответ на вопрос я не знаю, может ли. Не видел пока примеров того, как ИИ способен на такие способы мышления, например, как аналогия — хотя видел примеры дедукции.

Я не знаю, какое конкретно мышление есть у ИИ, но знаю точно, какого у него нет. У ИИ до сих пор отсутствует критическое мышление, он как Адам и Хавва до того, как они поддались козням шайтана. “Как в тренировочных материалах указано — так и верно”. Об этом свидетельствуют периодические очевидные прогалы в логике, например:

Люди даже отследили это до какой-то шутейной статьи в стиле The Onion, из которой ИИ почерпнул сей премудрости. Хотя человеку, знакомому с пищеварительной системой, вполне очевидно, что даже если в гравии были бы какие-то микроэлементы, обычного пищеварительного сока и энзимов решительно недостаточно, чтобы достать их из кварца или там полевого шпата.

Не менее прекрасно предложение добавить “нетоксичный клей” к пицце.

И вот то, что ИИ сам не умеет критически относиться к материалу, который сам же переваривает — не знаю, как другим, а мне говорит о том, что с реальным мышлением там пока туговато.

Занимался вчера созданием нейросетей под руководством ChatGPT. По итогам я имею сказать вот что.

В целом — впечатляет. Даёт не самый плохой код на Питоне для создания нейросети на TensorFlow, что характерно — используя keras. Практически то же самое, что я сам рисовал четыре года назад.

Только в этот раз я замахнулся пошЫрше и решил нейросети скормить csv с “финансовыми транзакциями”. Внутри csv было одиннадцать колонок, десять просто с числами, а одиннадцатая — с довольно сложным вычислением из данных, находящихся в шести колонках (сложение двух дробей, вычисление 10% от полученного, и складывание с ещё двумя колонками). Четыре оставшиеся колонки не делали ничего.

Модель делал пятислойную, сто нейронов в четырёх слоях, один нейрон в выходном слое (это уже не ЧатЖПТ предлагал, это уже я сам). Наверное, это даже избыточно сложная модель.

Сделал два csv файла, один с 200 строками — это был тренировочное множество, и второй — всего с десятью. Я хотел посмотреть, сможет ли нейросеть распознать, какая именно зависимость существует в одиннадцатой колонке, и сможет ли она предсказать данные, полученные таким образом.

Скажу сразу, всё получилось. Конечно, математика на нейросетях довольно неаккуратна, но после 5000 эпох тренировки она смогла предугадывать значения с точностью, не выходящей за рамки 5%. Планирую показать результат начальнику, контора сильно озаботилась встраиванием ИИ в продукцию.

Но помимо этого, у меня возникли небольшые сложности, и возникли они именно от применения ИИ.

Во-первых, ЧатЖПТ нередко даёт код для Питоновских библиотек, который уже является устаревшим (deprecated). Например, свойство pandas.DataFrame.iloc — вытаскивание индивидуальных колонок из pandas.DataFrame.

Во-вторых, ЧатЖПТ создаёт в коде баги. Например, вместо десяти строк в тестовом наборе данных у меня почему-то считывались только девять. Разговор шёл примерно вот так:

–А у меня вместо десяти ожидаемых строк только девять.
–Может, данные кривые? Вот как их надо нормализировать.
–Данные нормальные, но считывается только девять строк вместо десяти. Первая строка проглатывается.
–Не должна. Вот код, как правильно считывать csv через pandas.read_csv
–Я этот код и использую, но первой строки нет.
–Ну, правильно, потому что по умолчанию первая строка считывается в имена колонок. В pandas.read_csv надо ставить параметр header=None, чтобы так не происходило.
–А чо сразу-то не сказал?
–Извиняюсь.

Но в целом (в целом) — впечатляет, да. Далеко не с каждым человеком я на эту тему могу поговорить, более того, не каждый сразу “на гора” выдаст работающий (более-менее) код. Ошибается иногда? Ну да, ошибается. Покажите мне человека, который не ошибается, и я покажу вам лентяя, который никогда ничего не делает. Тем не менее, лентяю в способности рассуждать почему-то не отказывают, а искуственному интеллекту — таки да. Неправильно это, ИМХО. ИИ вполне способен на рассуждения.

По наводке ув. ny-quant. На видеокарте я запустить не смог, потому что у меня лапки. С форком GPT4AllGPU почему-то надо приставлять отдельную модель LLaMa, которую надо скачивать самому, и я не смог разобраться, какую. Поэтому запустил на процессоре.

С трудом, надо сказать, запустил. У меня восемь пеньков i7 десятого поколения и 64 гектара памяти:

Ответ на простой вопрос (как лучше всего гладить кошку) занимает минуту-две. А вот креативная деятельность (напиши мне поэму про сисадмина) уже йок, может пиликать минут десять и больше.

Запускаю через третий питон внутри WSL2.

Установить:

pip3 install nomic

Потом в интерактивном python3:

from nomic.gpt4all import GPT4All (в первый раз занимает очень много времени, скачивает натренированную модель)
m = GPT4All()
m.open()
m.prompt(“Write me a short story about a kitten”)

Я нарисовал простейший код чтобы общаться. Увы, грёбаное форматирование наверняка похоронит отступы:

#!/usr/bin/python3
from nomic.gpt4all import GPT4All
m=GPT4All()
m.open()
while(True):
prompt = input("Please ask me something or say STOP to quit: ")
if (prompt == "STOP"):
break
else:
response = m.prompt(prompt)
print(response)

Поиграюсь, но ресурсоёмкость, конечно, аховая.

Update: барахло полное. ЧатЖПТ хотя бы правильно на простые вопросы отвечал. Этот даже не знает, как запустить внешнюю программу с указанием параметров из скрипта на ПауэрШелле.

Ув. dibr высказался, мол, в последнее время системы ИИ вдруг полезли как чортики из табакерки. Выкатили DALL-E и как плотину прорвало — тут же появился Миджёрни, Стейбл Диффьюжен и прочая. Появился ChatGPT и ОПА — тут же выскочил Микрософт со своим роботом-говорилкой, Гугл подсуетился.

И это действительно так. По-моему, внутри технологических компаний назрела какая-то критическая масса наработок на нейронных сетях, сейчас она рванула и мы наблюдаем этот ядерный взрыв и разлёт осколков.

И говорилки теперь могут действительно многое. Например, у меня был вопрос в области IT как сделать одну вещь на ПауэрШелле. Я долго и безуспешно искал ответ в интернетах, и никак не мог найти. Сотрудник надоумил — “спроси у ChatGPT!” И действительно, спросил — и мне тут же дали 100% рабочее решение. Робот-говорилка во много раз круче поисковых систем.

Что до наличия тут какого-то разума… дорогие мои читатели, я не вижу тут разума. Есть такая вещь — цепь Маркова. Её придумал выдающийся русский математик Андрей Андреевич Марков-старший. Что это такое? Ну, детали можно найти хоть в Википедии, но вот на простом примере можно взять любое слово. Последовательность букв в нём неслучайна. Например, после согласных чаще идёт гласная, чем согласная. И все эти вероятности можно вычислить, после чего написать генератор слов, где вероятность возникновения одной буквы после другой будет совпадать с нашими изысканиями. К слову скажу, что цепи Маркова широко употребляются для взлома паролей, так как пароли, созданные человеком, тоже подчиняются определённым законам.

Все эти роботы-говорилки — это МЕГА-натренированные МЕГА-сложные МЕГА-генераторы МЕГА-цепей Маркова, их более расширенного варианта, в которых не буквы, а слова зависят друг от друга, от их последовательности в предложении, и от других предложений. Это, безусловно, очень круто, и действительно заслуживает похвал, но это не делает систему разумной. Во всяком случае, ПОКА, на текущий момент.

Скажу только, что на мой взгляд, наличие разума предполагает наличие сознания, но что такое сознание, определение я дать уже не возьмусь, кроме как через революционное чутьё, а по-другому я не дорос ишшо.

Всё это была присказка.

Хотел я поделиться ещё одним инструментом для создания “картинок из текста”, Адобе Файрфлай (Светлячок), который сейчас проходит бета-тестирование. Так как я рисовать не умею от слова “совсем”, к моим кривым рукам приходится приставлять робота, нехай рисует за меня.

Скажу вот что. Как настоящему художнику, так и художнику, вооружённому ИИ, проще всего рисовать то, чего нет. Как гласит древняя легенда, рисовать демона проще, чем собаку — ибо демон есть существо воображаемое, каким ты его видишь — таким он и есть. А как выглядят собаки, знают все, и нарисовать её так, чтобы было понятно, что это собака — уже непросто. Даёшь задачу ИИ нарисовать инопланетный корабль — оно рисует. И хрен придерёшься, ты что ли, сам его видел, чтобы сказать, что “непохоже”? А вот дать задачу рисовать что есть, особенно людей — и на выходе получается настолько забористая пурга, что никаких грибов с кетамином не надо.

Так вот, забегая вперёд, скажу, что Адобе Светлячку это наконец-то более-менее удалось — реалистично рисовать то, что есть. В отличие от других систем, через жопу рисующих человеков с тремя ногами, шестью руками, и тринадцатью пальцами на каждой руке, Светлячок рисует более-менее нормально. Более того, многие нетленки, создаваемые этой системой, весьма фотореалистичны. Не буду голословным.

“Красивая улыбающаяся азиатская молодая женщина, одетая в платье в красную клеточку, собирает светящиеся цветы на закате в лесу”:

Через откровенную жопь тут сделана только одна деталь — рукава на платье не совпадают, они разные. И воротник какой-то странный. Но вы поглядите на этот свет! И как хорошо он показан — как закатный, так и свет от цветов! Я впечатлён, серьёзно.

И ещё одна. Вот тут уже есть серьёзные артефакты — пальцы, артефакты на платье. Но очень недурно, на мой взгляд. Если не с колёс публиковать, а хотя бы доработать в Шопе — вполне норм!

Свет отработан отлично. Рекомендую.

Кроме того, когда Светлячка наконец допилят, его картинки с гарантией не будут нарушать ничей копирайт — Адобе клянётся-божится, что тренировал нейросети на своих собственных стоковых картинках (которых у него до пупа) и на картинках с открытым копирайтом. Учитывая наличие уже существующией толпы судебных исков, кому-то может быть критично.