А ещё я не удивлюсь, если кто-то перехватывает и читает эти чат-логи, а потом полирует свою морковку. Вообще, безопасность современных ИИ-систем, которые постоянно галлюцинируют и с трудом поддаются контролю, и радостная готовность придурков-людей внедрять их решительно везде, где только можно (они ж даже до нотпада добрались уже) внушает только опасения.
Category: AI
Про новый “нитеразрыватель”
AMD анонсировали новый Threadripper с аж 96 ядрами. Молодцы, конечно, но смотрю я на эту табличку и только диву даюсь. Отцы родные, а как вы ЭТО охлаждать собрались?
Я с разбегу под такое тепловыделение нашёл только водяное охлаждение, типа такого:
Вкупе с парочкой видеокарт RTX5090 (575 ватт каждая, на минуточку) понадобится блок питания под два киловатта мощностью. Это никакого дополнительного обогревания в комнате не надо будет иметь. И выть громко будет шопесец.
Что-то развитие техники у нас в последнее время идёт такое… экстенсивное. Выжимаем максимум из текущих технологий, и на выхлопе имеем огромные запросы по энергии и прочим ресурсам. И бешеное развитие систем искуственного интеллекта только льёт бензин в этот пожар.
Искуственный интеллект неочевидного назначения
Оформил подписку на ЧатЖПТ, уж слишком полезный в быту инструмент, право слово. И одно из самых прикольных применений новой версии 4, в которую добавили генерацию изображений — это редактирование изображений, и применений у этой функциональности — вагон.
Например, можно загрузить фотографию чего-то, и создавать новые изображения на основе фотографии — этой фичи, например, нет в ImageX и многих других вещах, которые могут генерировать только на основе текстовых промптов.
Так, я загрузил фотографию собственного дома, и попросил:
1. Дать предложения по улучшению внешнего вида дома
2. Сгенерировать рендер с этими самыми улучшениями
И легко:
А второе, прикольное, но узкоспециальное применение, которое сгодится нашим друзьям с гендерной дисфорией — оно может генерировать фотографии на основе селфи, но противоположного пола.
Вот так бы, по мнению ЧатЖПТ, я бы выглядела, если бы была дамой:
Приятно с вами познакомиться, меня зовут Тори.
На самом деле, весьма на меня похожа, вполне бы сошла за мою младшую сестру.
Ну, а потом, хохмы ради, попросил я из этой симпатичной дамы сделать снова кавалера — но своё селфи назад я таки не получил 🙂 Подобное редактирование идёт с потерями 🙂
ИИ-шибболет
Ув. vaf подкинул ссылку на то, как северокорейские шпионы используют ИИ для того, чтобы проникать в американские конторы. Я про это уже читал, конечно, и мне всегда больше интересно даже не то, что северокорейцы таким занимаются — оно понятно, что враги, но враги — они как погода, будут всегда. Интереснее, кто им помогает в США, какие на всю башку отмороженные придурки, ходящие под федеральными статьями? Ну, а погоду ты изменить не можешь, но можешь взять зонтик.
Так вот против северокорейцев внезапно нашёлся зонтик-шибболет. У всех соискателей, подозреваемых на северокорейность, обычно достаточно спросить что-то негативное про Любимого Руководителя. Например, “почему Ким Чен Ын такой жирный?”
“Северокорейцы обычно заканчивают звонок”, как сообщает The Register.
Про замену айтишников ИИ
Вот подумал, а какие профессии в мире информационных технологий может убить искуственный интеллект?
На мой взгляд, никакие.
Возьмём, например, сисадминство, мне наиболее близкое.
Что в мире сисадминства может сейчас сделать ИИ? Писать несложные скрипты? Ну, может — хотя с большими оговорками, про них ниже. Рисовать правила для брандмауэра под нужные задачи? С большим скрипом, знаете ли. Вот я попросил нарисовать правила для брандмауэра, стоящего между IIS веб-сервером, прицепленным к домену, и контроллером домена — ИИ полностью просохатил NTP, например (порт 123/UDP). А если у тебя на серверах и доменных контроллерах время не совпадает, то кверху мехом поплывёт керберос, после чего вообще вся аутентификация в домене пойдёт по известному месту.
ИИ — птица гордая, не пнёшь — не полетит:
Да шут с ними, со скриптами и правилами для брандмауэра. Витую пару кто будет обжимать? Тоже ИИ? А по фальш-потолку лазить будет кто, тоже он? Менять батарейки в ИБП, сервера ставить в рэки, подключать и настраивать коммутаторы, монтировать точки беспроводного доступа, менять картриджи в ленточных накопителях, отвозить их в банк, и так далее, и тому подобное — кто будет? Неужели тоже ИИ?
Нет, братцы-кролики, это какой-то киберсисадмин-терминатор понадобится, и что самое главное — стоить-то он будет дороже человека.
Вот дурацкие картинки рисовать — это оно умеет, да.
Какие ещё профессии в ИТ может заменить ИИ? Программиста, что ли? Ну, я не вполне программист, хотя бакалавра я получил в CS. Но даже из того, с чем я сталкивался лично, вполне очевидно, что код, генерируемый ИИ, во всяком случае, на данный момент — говно. Нет, я не хочу сказать, что он не работает.
Просто во-первых, библиотеки, объекты, и вызовы, которые использует программа, ИИ написанная, обычно уже года два-три не используются, так что от среды разработки в рожу как минимум прилетают предупреждения о том, что “code deprecated”. А во-вторых, в программировании способов снять шкуру с кошки — мильён, и ИИ не выберет самый лучший. Он выберет тот, который знает.
Я тут у себя давненько написал было гневный пост о том, что R, дескать, медленнее Питона с Нампаем — используя код на R, нарисованный ЧатЖПТ. А потом в комменты пришёл погромист на R и немножко, но нежно повозил меня рожей об стол, дав мне нормальный код на R, который выполнялся раз в десять быстрее минимум.
На данный момент код, генерированный ИИ, годится максимум на то, чтобы начать с чем-то разбираться (как вот я, например, ничего не знал про язык R), а как только разберёшься — сразу же выясняется, что делать лучше не так, а совсем даже по-другому.
И даже простенькие скрипты для сись-админирования ИИ рисует через задницу. Скрипты, которые пишу я, обычно раза в два-три короче генерируемых ИИ, их легче настраивать под свои нужды, их проще читать, и работают они быстрее.
Можно, конечно, уповать на то, что “щас ИИ допилят и тогда”. А вы знаете, я не разделяю оптимизма. И дело даже не в том, что я считаю, что мы практически полностью выбрали тот запас, который есть в существующих моделях ИИ — хотя и это тоже правда. Чтобы продолжать развивать модели так, как они развиваются сейчас, экстенсивно, нам надо было позавчера начинать строить ядерные электростанции, причём массово. Потому что жрёт это дело сейчас — просто как не в себя. Вот у шурина есть школьный товарищ, инженер-электрик “Сатерн Компани“. Пришёл к ним Микрософт, говорит, хотят строить датацентр для ИИ в Миссиссиппи — благо там земля дешёвая. Главный затык — ентому датацентру вынь да положь 500 мегаватт мощности. А где её взять, спрашивается? 500 мегаватт — это, мягко выражаясь, дохера как много. И ента ваша “зелёная энергия” с ветрячками да панельками её обеспечить тупо не в состоянии. Не в режиме 24/7.
Главный затык — он в том, что любая, самая сложная модель — бессмысленна без тренировки, а на чём её тренировать? На том, что лежит в интернете? В интернете лежит “мнение большинства”, а в узкоспециальных вопросах большинство, как известно, всегда неправо.
Но даже если в интернете лежала бы “правда”, то я не знаю, как в других областях, а в сфере информационных технологий “правда” теряет актуальность чуть быстрее, чем мгновенно, а так как модель требует для тренировки огромное количество машинных часов, к тому времени, как она эту “правду” усвоит, она уже устареет. Именно поэтому код, генерируемый ИИ, почти всегда (в моём опыте) маркируется как “deprecated”.
Так что лично я считаю, что айтишникам бояться нечего. Пока (пока) ИИ работает, на мой взгляд, именно так, как он должен работать — “множителем силы” для мастеров. Подмастерье, если можно так высказаться; подспорье как максимум.
Про силу ИИ
Спросил у двух разных систем ИИ сыграть со мной в крестики-нолики.
Обыграл всех всухую. Такое ощущение, что ходы были вообще случайные, хотя я специально требовал, чтобы оно использовало минимакс для оценки своих ходов. Нормально сделанный минимакс обязан приводить игру в крестики-нолики в состояние ничьей.
Это же не шахматы, тут максимальное вообще возможное количество игр 9! = 362,880.
Сарочка Коннор может спать спокойно.
Может ли машина мыслить?
Написал коммент ув. dibr, решил, что он достоин отдельного поста.
Скажу сразу, ответ на вопрос я не знаю, может ли. Не видел пока примеров того, как ИИ способен на такие способы мышления, например, как аналогия — хотя видел примеры дедукции.
Я не знаю, какое конкретно мышление есть у ИИ, но знаю точно, какого у него нет. У ИИ до сих пор отсутствует критическое мышление, он как Адам и Хавва до того, как они поддались козням шайтана. “Как в тренировочных материалах указано — так и верно”. Об этом свидетельствуют периодические очевидные прогалы в логике, например:
Люди даже отследили это до какой-то шутейной статьи в стиле The Onion, из которой ИИ почерпнул сей премудрости. Хотя человеку, знакомому с пищеварительной системой, вполне очевидно, что даже если в гравии были бы какие-то микроэлементы, обычного пищеварительного сока и энзимов решительно недостаточно, чтобы достать их из кварца или там полевого шпата.
Не менее прекрасно предложение добавить “нетоксичный клей” к пицце.
И вот то, что ИИ сам не умеет критически относиться к материалу, который сам же переваривает — не знаю, как другим, а мне говорит о том, что с реальным мышлением там пока туговато.
Да вы с ума сошли
Чего-то современные компьютерные переводчики то ведут себя нормально, то превращаются назад в тыкву.
Вот хотел я рассказать, вдогонку к предыдущему посту, про то, что водители на Юге США за отсутствием нужды не меняют шины по сезону дважды в год. И из-за этого ездят по внезапному снежку на летних шинах, со всеми вытекающими (Сталинград на дорогах).
Так вот, забыл я, как сказать в русском языке слово “biannual”. Сунулся в Гугл-переводчик — а там бредятина:
Чо? Сунулся в Яндекс-переводчик — и там бредятина:
Ну какие раз в два года, вы что, рехнулись? Это — дважды в год!
Раз в два года — это “biennial”!!
“Вот так и возникают нездоровые сенсации”.
И только DeepL перевёл по-человечески, хотя, казалось бы, слово-то простое.
Удивительное дело. Всё надо перепроверять руками.
А вы говорите, “ИИ лишит нас заработка”.
Врёт как Жюль Верн
Играюсь с большыми языковыми моделями, запускаемыми локально через ollama под WSL2. Их нам много разных, LlaVa, llama2, mistral, и т.д. Немного ресурсов, кстати, жрёт — я аж удивился. WSL2 занимает при работе только два гига памяти.
Но языковые модели, конечно, имеют ограничения. Одна, например, наотруб отказалась рассказывать о том, как правильно обогащать уран. А вторая — врёт как Жюль Верн в книге “Таинственный остров”. То-есть, рассказывает о производстве, например, взрывчатых веществ с ошибками — предположительно, специально, дабы кто-то не впечатлился, и не сделал бы их на самом деле.
Вот, например, ответ на вопрос о производстве чёрного пороха:
Сделанный таким образом дымный порох гореть, наверное, будет. Но гореть он будет лишь немного пободрее, чем древесный уголь. Даже советские мальчишки знали, что это селитры в порох надо сыпать 75%, а не угля — это, если что, в Советской Энциклопедии было напечатано. И пропорции для серы и угля перепутаны задом наперёд.
Надо будет где-то нецензурированные версии моделей найти, я знаю, что они есть. Не то, чтобы я и без них не знал, как сделать Большую Бонбу. Это, вон, даже чеченским подросткам-террористам было доступно, благо ИГИЛовские методички гуглятся легко. Да и вообще, они не изготавливали ВВ сами, а взяли китайских фейерверков и распатронили их.
А мне просто так. Шоб было. Мало ли ещё чего интересного можно узнать.
Арабанглийский
Искуственный интеллект иногда, конечно, удивляет. Если в Гугл-переводчик сунуть арабский текст, но сказать ему, что изначальный язык — английский, то оно, оказывается, может и перевести:
На самом деле там, конечно, немного другое.
А вы говорите, “ИИ-галлюцинации”! Что за Кэрол, что за фильм, и что за город такой, интересно 😀
PS: Хасан Абу Аль-Сауд — это композитор родом из Египта, аккордеонист. Известен в первую очередь как композитор музыки к кинофильмам. К сожалению, практически неизвестен на Западе. Музыку писал прекрасную. Это его музыка из фильма “Эль-Кейф”: