Category: AI

Пишут, что ИИ-приложение Replika, которое было создано для того, чтобы служить онлайн-компаньоном гражданам, разговаривает на сексуальные темы с несовершеннолетними.

А ещё я не удивлюсь, если кто-то перехватывает и читает эти чат-логи, а потом полирует свою морковку. Вообще, безопасность современных ИИ-систем, которые постоянно галлюцинируют и с трудом поддаются контролю, и радостная готовность придурков-людей внедрять их решительно везде, где только можно (они ж даже до нотпада добрались уже) внушает только опасения.

AMD анонсировали новый Threadripper с аж 96 ядрами. Молодцы, конечно, но смотрю я на эту табличку и только диву даюсь. Отцы родные, а как вы ЭТО охлаждать собрались?

Я с разбегу под такое тепловыделение нашёл только водяное охлаждение, типа такого:

Вкупе с парочкой видеокарт RTX5090 (575 ватт каждая, на минуточку) понадобится блок питания под два киловатта мощностью. Это никакого дополнительного обогревания в комнате не надо будет иметь. И выть громко будет шопесец.

Что-то развитие техники у нас в последнее время идёт такое… экстенсивное. Выжимаем максимум из текущих технологий, и на выхлопе имеем огромные запросы по энергии и прочим ресурсам. И бешеное развитие систем искуственного интеллекта только льёт бензин в этот пожар.

Оформил подписку на ЧатЖПТ, уж слишком полезный в быту инструмент, право слово. И одно из самых прикольных применений новой версии 4, в которую добавили генерацию изображений — это редактирование изображений, и применений у этой функциональности — вагон.

Например, можно загрузить фотографию чего-то, и создавать новые изображения на основе фотографии — этой фичи, например, нет в ImageX и многих других вещах, которые могут генерировать только на основе текстовых промптов.

Так, я загрузил фотографию собственного дома, и попросил:

1. Дать предложения по улучшению внешнего вида дома
2. Сгенерировать рендер с этими самыми улучшениями

И легко:

А второе, прикольное, но узкоспециальное применение, которое сгодится нашим друзьям с гендерной дисфорией — оно может генерировать фотографии на основе селфи, но противоположного пола.

Вот так бы, по мнению ЧатЖПТ, я бы выглядела, если бы была дамой:

Приятно с вами познакомиться, меня зовут Тори.

На самом деле, весьма на меня похожа, вполне бы сошла за мою младшую сестру.

Ну, а потом, хохмы ради, попросил я из этой симпатичной дамы сделать снова кавалера — но своё селфи назад я таки не получил 🙂 Подобное редактирование идёт с потерями 🙂

Ув. vaf подкинул ссылку на то, как северокорейские шпионы используют ИИ для того, чтобы проникать в американские конторы. Я про это уже читал, конечно, и мне всегда больше интересно даже не то, что северокорейцы таким занимаются — оно понятно, что враги, но враги — они как погода, будут всегда. Интереснее, кто им помогает в США, какие на всю башку отмороженные придурки, ходящие под федеральными статьями? Ну, а погоду ты изменить не можешь, но можешь взять зонтик.

Так вот против северокорейцев внезапно нашёлся зонтик-шибболет. У всех соискателей, подозреваемых на северокорейность, обычно достаточно спросить что-то негативное про Любимого Руководителя. Например, “почему Ким Чен Ын такой жирный?”

“Северокорейцы обычно заканчивают звонок”, как сообщает The Register.

Вот подумал, а какие профессии в мире информационных технологий может убить искуственный интеллект?

На мой взгляд, никакие.

Возьмём, например, сисадминство, мне наиболее близкое.

Что в мире сисадминства может сейчас сделать ИИ? Писать несложные скрипты? Ну, может — хотя с большими оговорками, про них ниже. Рисовать правила для брандмауэра под нужные задачи? С большим скрипом, знаете ли. Вот я попросил нарисовать правила для брандмауэра, стоящего между IIS веб-сервером, прицепленным к домену, и контроллером домена — ИИ полностью просохатил NTP, например (порт 123/UDP). А если у тебя на серверах и доменных контроллерах время не совпадает, то кверху мехом поплывёт керберос, после чего вообще вся аутентификация в домене пойдёт по известному месту.

ИИ — птица гордая, не пнёшь — не полетит:

Да шут с ними, со скриптами и правилами для брандмауэра. Витую пару кто будет обжимать? Тоже ИИ? А по фальш-потолку лазить будет кто, тоже он? Менять батарейки в ИБП, сервера ставить в рэки, подключать и настраивать коммутаторы, монтировать точки беспроводного доступа, менять картриджи в ленточных накопителях, отвозить их в банк, и так далее, и тому подобное — кто будет? Неужели тоже ИИ?

Нет, братцы-кролики, это какой-то киберсисадмин-терминатор понадобится, и что самое главное — стоить-то он будет дороже человека.

Вот дурацкие картинки рисовать — это оно умеет, да.

Какие ещё профессии в ИТ может заменить ИИ? Программиста, что ли? Ну, я не вполне программист, хотя бакалавра я получил в CS. Но даже из того, с чем я сталкивался лично, вполне очевидно, что код, генерируемый ИИ, во всяком случае, на данный момент — говно. Нет, я не хочу сказать, что он не работает.

Просто во-первых, библиотеки, объекты, и вызовы, которые использует программа, ИИ написанная, обычно уже года два-три не используются, так что от среды разработки в рожу как минимум прилетают предупреждения о том, что “code deprecated”. А во-вторых, в программировании способов снять шкуру с кошки — мильён, и ИИ не выберет самый лучший. Он выберет тот, который знает.

Я тут у себя давненько написал было гневный пост о том, что R, дескать, медленнее Питона с Нампаем — используя код на R, нарисованный ЧатЖПТ. А потом в комменты пришёл погромист на R и немножко, но нежно повозил меня рожей об стол, дав мне нормальный код на R, который выполнялся раз в десять быстрее минимум.

На данный момент код, генерированный ИИ, годится максимум на то, чтобы начать с чем-то разбираться (как вот я, например, ничего не знал про язык R), а как только разберёшься — сразу же выясняется, что делать лучше не так, а совсем даже по-другому.

И даже простенькие скрипты для сись-админирования ИИ рисует через задницу. Скрипты, которые пишу я, обычно раза в два-три короче генерируемых ИИ, их легче настраивать под свои нужды, их проще читать, и работают они быстрее.

Можно, конечно, уповать на то, что “щас ИИ допилят и тогда”. А вы знаете, я не разделяю оптимизма. И дело даже не в том, что я считаю, что мы практически полностью выбрали тот запас, который есть в существующих моделях ИИ — хотя и это тоже правда. Чтобы продолжать развивать модели так, как они развиваются сейчас, экстенсивно, нам надо было позавчера начинать строить ядерные электростанции, причём массово. Потому что жрёт это дело сейчас — просто как не в себя. Вот у шурина есть школьный товарищ, инженер-электрик “Сатерн Компани“. Пришёл к ним Микрософт, говорит, хотят строить датацентр для ИИ в Миссиссиппи — благо там земля дешёвая. Главный затык — ентому датацентру вынь да положь 500 мегаватт мощности. А где её взять, спрашивается? 500 мегаватт — это, мягко выражаясь, дохера как много. И ента ваша “зелёная энергия” с ветрячками да панельками её обеспечить тупо не в состоянии. Не в режиме 24/7.

Главный затык — он в том, что любая, самая сложная модель — бессмысленна без тренировки, а на чём её тренировать? На том, что лежит в интернете? В интернете лежит “мнение большинства”, а в узкоспециальных вопросах большинство, как известно, всегда неправо.

Но даже если в интернете лежала бы “правда”, то я не знаю, как в других областях, а в сфере информационных технологий “правда” теряет актуальность чуть быстрее, чем мгновенно, а так как модель требует для тренировки огромное количество машинных часов, к тому времени, как она эту “правду” усвоит, она уже устареет. Именно поэтому код, генерируемый ИИ, почти всегда (в моём опыте) маркируется как “deprecated”.

Так что лично я считаю, что айтишникам бояться нечего. Пока (пока) ИИ работает, на мой взгляд, именно так, как он должен работать — “множителем силы” для мастеров. Подмастерье, если можно так высказаться; подспорье как максимум.

Спросил у двух разных систем ИИ сыграть со мной в крестики-нолики.

Обыграл всех всухую. Такое ощущение, что ходы были вообще случайные, хотя я специально требовал, чтобы оно использовало минимакс для оценки своих ходов. Нормально сделанный минимакс обязан приводить игру в крестики-нолики в состояние ничьей.

Это же не шахматы, тут максимальное вообще возможное количество игр 9! = 362,880.

Сарочка Коннор может спать спокойно.

Написал коммент ув. dibr, решил, что он достоин отдельного поста.

Скажу сразу, ответ на вопрос я не знаю, может ли. Не видел пока примеров того, как ИИ способен на такие способы мышления, например, как аналогия — хотя видел примеры дедукции.

Я не знаю, какое конкретно мышление есть у ИИ, но знаю точно, какого у него нет. У ИИ до сих пор отсутствует критическое мышление, он как Адам и Хавва до того, как они поддались козням шайтана. “Как в тренировочных материалах указано — так и верно”. Об этом свидетельствуют периодические очевидные прогалы в логике, например:

Люди даже отследили это до какой-то шутейной статьи в стиле The Onion, из которой ИИ почерпнул сей премудрости. Хотя человеку, знакомому с пищеварительной системой, вполне очевидно, что даже если в гравии были бы какие-то микроэлементы, обычного пищеварительного сока и энзимов решительно недостаточно, чтобы достать их из кварца или там полевого шпата.

Не менее прекрасно предложение добавить “нетоксичный клей” к пицце.

И вот то, что ИИ сам не умеет критически относиться к материалу, который сам же переваривает — не знаю, как другим, а мне говорит о том, что с реальным мышлением там пока туговато.

Играюсь с большыми языковыми моделями, запускаемыми локально через ollama под WSL2. Их нам много разных, LlaVa, llama2, mistral, и т.д. Немного ресурсов, кстати, жрёт — я аж удивился. WSL2 занимает при работе только два гига памяти.

Но языковые модели, конечно, имеют ограничения. Одна, например, наотруб отказалась рассказывать о том, как правильно обогащать уран. А вторая — врёт как Жюль Верн в книге “Таинственный остров”. То-есть, рассказывает о производстве, например, взрывчатых веществ с ошибками — предположительно, специально, дабы кто-то не впечатлился, и не сделал бы их на самом деле.

Вот, например, ответ на вопрос о производстве чёрного пороха:

Сделанный таким образом дымный порох гореть, наверное, будет. Но гореть он будет лишь немного пободрее, чем древесный уголь. Даже советские мальчишки знали, что это селитры в порох надо сыпать 75%, а не угля — это, если что, в Советской Энциклопедии было напечатано. И пропорции для серы и угля перепутаны задом наперёд.

Надо будет где-то нецензурированные версии моделей найти, я знаю, что они есть. Не то, чтобы я и без них не знал, как сделать Большую Бонбу. Это, вон, даже чеченским подросткам-террористам было доступно, благо ИГИЛовские методички гуглятся легко. Да и вообще, они не изготавливали ВВ сами, а взяли китайских фейерверков и распатронили их.

А мне просто так. Шоб было. Мало ли ещё чего интересного можно узнать.

Искуственный интеллект иногда, конечно, удивляет. Если в Гугл-переводчик сунуть арабский текст, но сказать ему, что изначальный язык — английский, то оно, оказывается, может и перевести:

На самом деле там, конечно, немного другое.

А вы говорите, “ИИ-галлюцинации”! Что за Кэрол, что за фильм, и что за город такой, интересно 😀

PS: Хасан Абу Аль-Сауд — это композитор родом из Египта, аккордеонист. Известен в первую очередь как композитор музыки к кинофильмам. К сожалению, практически неизвестен на Западе. Музыку писал прекрасную. Это его музыка из фильма “Эль-Кейф”: