Category: AI

Вот подумал, а какие профессии в мире информационных технологий может убить искуственный интеллект?

На мой взгляд, никакие.

Возьмём, например, сисадминство, мне наиболее близкое.

Что в мире сисадминства может сейчас сделать ИИ? Писать несложные скрипты? Ну, может — хотя с большими оговорками, про них ниже. Рисовать правила для брандмауэра под нужные задачи? С большим скрипом, знаете ли. Вот я попросил нарисовать правила для брандмауэра, стоящего между IIS веб-сервером, прицепленным к домену, и контроллером домена — ИИ полностью просохатил NTP, например (порт 123/UDP). А если у тебя на серверах и доменных контроллерах время не совпадает, то кверху мехом поплывёт керберос, после чего вообще вся аутентификация в домене пойдёт по известному месту.

ИИ — птица гордая, не пнёшь — не полетит:

Да шут с ними, со скриптами и правилами для брандмауэра. Витую пару кто будет обжимать? Тоже ИИ? А по фальш-потолку лазить будет кто, тоже он? Менять батарейки в ИБП, сервера ставить в рэки, подключать и настраивать коммутаторы, монтировать точки беспроводного доступа, менять картриджи в ленточных накопителях, отвозить их в банк, и так далее, и тому подобное — кто будет? Неужели тоже ИИ?

Нет, братцы-кролики, это какой-то киберсисадмин-терминатор понадобится, и что самое главное — стоить-то он будет дороже человека.

Вот дурацкие картинки рисовать — это оно умеет, да.

Какие ещё профессии в ИТ может заменить ИИ? Программиста, что ли? Ну, я не вполне программист, хотя бакалавра я получил в CS. Но даже из того, с чем я сталкивался лично, вполне очевидно, что код, генерируемый ИИ, во всяком случае, на данный момент — говно. Нет, я не хочу сказать, что он не работает.

Просто во-первых, библиотеки, объекты, и вызовы, которые использует программа, ИИ написанная, обычно уже года два-три не используются, так что от среды разработки в рожу как минимум прилетают предупреждения о том, что “code deprecated”. А во-вторых, в программировании способов снять шкуру с кошки — мильён, и ИИ не выберет самый лучший. Он выберет тот, который знает.

Я тут у себя давненько написал было гневный пост о том, что R, дескать, медленнее Питона с Нампаем — используя код на R, нарисованный ЧатЖПТ. А потом в комменты пришёл погромист на R и немножко, но нежно повозил меня рожей об стол, дав мне нормальный код на R, который выполнялся раз в десять быстрее минимум.

На данный момент код, генерированный ИИ, годится максимум на то, чтобы начать с чем-то разбираться (как вот я, например, ничего не знал про язык R), а как только разберёшься — сразу же выясняется, что делать лучше не так, а совсем даже по-другому.

И даже простенькие скрипты для сись-админирования ИИ рисует через задницу. Скрипты, которые пишу я, обычно раза в два-три короче генерируемых ИИ, их легче настраивать под свои нужды, их проще читать, и работают они быстрее.

Можно, конечно, уповать на то, что “щас ИИ допилят и тогда”. А вы знаете, я не разделяю оптимизма. И дело даже не в том, что я считаю, что мы практически полностью выбрали тот запас, который есть в существующих моделях ИИ — хотя и это тоже правда. Чтобы продолжать развивать модели так, как они развиваются сейчас, экстенсивно, нам надо было позавчера начинать строить ядерные электростанции, причём массово. Потому что жрёт это дело сейчас — просто как не в себя. Вот у шурина есть школьный товарищ, инженер-электрик “Сатерн Компани“. Пришёл к ним Микрософт, говорит, хотят строить датацентр для ИИ в Миссиссиппи — благо там земля дешёвая. Главный затык — ентому датацентру вынь да положь 500 мегаватт мощности. А где её взять, спрашивается? 500 мегаватт — это, мягко выражаясь, дохера как много. И ента ваша “зелёная энергия” с ветрячками да панельками её обеспечить тупо не в состоянии. Не в режиме 24/7.

Главный затык — он в том, что любая, самая сложная модель — бессмысленна без тренировки, а на чём её тренировать? На том, что лежит в интернете? В интернете лежит “мнение большинства”, а в узкоспециальных вопросах большинство, как известно, всегда неправо.

Но даже если в интернете лежала бы “правда”, то я не знаю, как в других областях, а в сфере информационных технологий “правда” теряет актуальность чуть быстрее, чем мгновенно, а так как модель требует для тренировки огромное количество машинных часов, к тому времени, как она эту “правду” усвоит, она уже устареет. Именно поэтому код, генерируемый ИИ, почти всегда (в моём опыте) маркируется как “deprecated”.

Так что лично я считаю, что айтишникам бояться нечего. Пока (пока) ИИ работает, на мой взгляд, именно так, как он должен работать — “множителем силы” для мастеров. Подмастерье, если можно так высказаться; подспорье как максимум.

Спросил у двух разных систем ИИ сыграть со мной в крестики-нолики.

Обыграл всех всухую. Такое ощущение, что ходы были вообще случайные, хотя я специально требовал, чтобы оно использовало минимакс для оценки своих ходов. Нормально сделанный минимакс обязан приводить игру в крестики-нолики в состояние ничьей.

Это же не шахматы, тут максимальное вообще возможное количество игр 9! = 362,880.

Сарочка Коннор может спать спокойно.

Написал коммент ув. dibr, решил, что он достоин отдельного поста.

Скажу сразу, ответ на вопрос я не знаю, может ли. Не видел пока примеров того, как ИИ способен на такие способы мышления, например, как аналогия — хотя видел примеры дедукции.

Я не знаю, какое конкретно мышление есть у ИИ, но знаю точно, какого у него нет. У ИИ до сих пор отсутствует критическое мышление, он как Адам и Хавва до того, как они поддались козням шайтана. “Как в тренировочных материалах указано — так и верно”. Об этом свидетельствуют периодические очевидные прогалы в логике, например:

Люди даже отследили это до какой-то шутейной статьи в стиле The Onion, из которой ИИ почерпнул сей премудрости. Хотя человеку, знакомому с пищеварительной системой, вполне очевидно, что даже если в гравии были бы какие-то микроэлементы, обычного пищеварительного сока и энзимов решительно недостаточно, чтобы достать их из кварца или там полевого шпата.

Не менее прекрасно предложение добавить “нетоксичный клей” к пицце.

И вот то, что ИИ сам не умеет критически относиться к материалу, который сам же переваривает — не знаю, как другим, а мне говорит о том, что с реальным мышлением там пока туговато.

Играюсь с большыми языковыми моделями, запускаемыми локально через ollama под WSL2. Их нам много разных, LlaVa, llama2, mistral, и т.д. Немного ресурсов, кстати, жрёт — я аж удивился. WSL2 занимает при работе только два гига памяти.

Но языковые модели, конечно, имеют ограничения. Одна, например, наотруб отказалась рассказывать о том, как правильно обогащать уран. А вторая — врёт как Жюль Верн в книге “Таинственный остров”. То-есть, рассказывает о производстве, например, взрывчатых веществ с ошибками — предположительно, специально, дабы кто-то не впечатлился, и не сделал бы их на самом деле.

Вот, например, ответ на вопрос о производстве чёрного пороха:

Сделанный таким образом дымный порох гореть, наверное, будет. Но гореть он будет лишь немного пободрее, чем древесный уголь. Даже советские мальчишки знали, что это селитры в порох надо сыпать 75%, а не угля — это, если что, в Советской Энциклопедии было напечатано. И пропорции для серы и угля перепутаны задом наперёд.

Надо будет где-то нецензурированные версии моделей найти, я знаю, что они есть. Не то, чтобы я и без них не знал, как сделать Большую Бонбу. Это, вон, даже чеченским подросткам-террористам было доступно, благо ИГИЛовские методички гуглятся легко. Да и вообще, они не изготавливали ВВ сами, а взяли китайских фейерверков и распатронили их.

А мне просто так. Шоб было. Мало ли ещё чего интересного можно узнать.

Искуственный интеллект иногда, конечно, удивляет. Если в Гугл-переводчик сунуть арабский текст, но сказать ему, что изначальный язык — английский, то оно, оказывается, может и перевести:

На самом деле там, конечно, немного другое.

А вы говорите, “ИИ-галлюцинации”! Что за Кэрол, что за фильм, и что за город такой, интересно 😀

PS: Хасан Абу Аль-Сауд — это композитор родом из Египта, аккордеонист. Известен в первую очередь как композитор музыки к кинофильмам. К сожалению, практически неизвестен на Западе. Музыку писал прекрасную. Это его музыка из фильма “Эль-Кейф”:

Нравятся мне комиксы xkcd, рисуют их наши люди.

Кстати, действительно работает. Один узел = π/e миль в час, с довольно высокой точностью.

Via https://xkcd.com/3023/

Забавно, кстати, смотреть на то, что некоторые комиксы уже устарели. Это комикс примерно года эдак 2013-2014, когда нейросети были ещё слабо известны. Я, впрочем, с ними уже был знаком, и использовал в 2012 году для дипломного проекта нейросеть Caffe института Беркли, которую сам с нуля натренировал. Но для начала 2000х проблема была ещё нерешаема.

В продаже теперь есть маски, полностью изменяющие облик человека. Особенно если надеть под куртку с капюшоном, или как фи тепер тошше коффорите, “худи”. Внедряете везде камеры наблюдения с распознаванием лиц — получите ответочку.

Без маски:

С маской:

Тщательный осмотр оно, конечно, не выдерживает. Но беглый взгляд — вполне.

А вы чо думали, щас везде навводим искуственный интеллект — и от преступности останутся рожки да ножки? Ха! Нет уж, с преступностью бороться надо “старым казачьим способом” — полицейской работой и долгими разговорами.

Пост в Линкдин.

PS: в продаже искать по ключевым словам “printed spoof mask”.

Не знаю, как другие, а я из принципа не хожу через автоматические кассы (self-checkout).

Потому что во-первых, если я работаю за кассира, сканируя и укладывая продукты самостоятельно, я считаю, что мне должны за эту работу заплатить.
Во вторых, через обычного, человеческого кассира идти быстрее, потому что работу по выкладке продуктов, сканированию, и укладке назад делают два человека вместо одного.
В третьих — и это немного луддитский аргумент — если все будут ходить через автоматические кассы, то магазин уволит кассиров, а я не хочу способствовать потере рабочих мест.

Всё же не перестаю удивляться прозорливости талантливого польского писателя. В каких только вещах он не оказался прав! Даже его Свободная Рыбиция очень сильно напоминает некоторых современных политических жуликов. А наблюдая современную беготню с системами искуственного интеллекта, просто поражаешься, настолько точно Лем предугадал некоторые тенденции, и самое главное — он предугадал, что искуственный интеллект во многих областях, традиционно считающимися именно что присущими только человеку, будет этого самого человека превосходить. Конечно, едкий интеллект Лема пишет обо всём этом с сарказмом, оборачивая всё в шутку. Но в каждой шутке, как известно…

Наткнулся на совершенно превосходный рассказ “Стиральная трагедия”, из серии путешествий Тихого, про то, как в стиральные машины стали встраивать ИИ, и чем всё в результате закончилось. Приведу несколько цитат, но поверьте, рассказ великолепен, и стоит того, чтобы прочитать его целиком.

“Вскоре после моего возвращения из одиннадцатого звездного путешествия газеты стали уделять все больше внимания конкурентной борьбе двух крупных фирм, производивших стиральные машины, — Наддлегга и Снодграсса.

Пожалуй, Наддлегг первым выбросил на рынок стиральные машины, настолько автоматизированные, что они сами отделяли белое белье от цветного, а выстирав и выжав, утюжили его, штопали, подрубали и помечали красиво вышитыми монограммами владельца, на полотенцах же вышивали поучительные, вселяющие оптимизм сентенции вроде “Кто рано встает, тому робот подает” и т. п. В ответ на это Снодграсс выбросил в торговую сеть стиральные машины, которые сами слагали и вышивали четверостишия — в зависимости от культурного уровня и эстетических запросов клиента.”

“Купив за 350 000 долларов соответствующие права и согласие заинтересованных лиц, он сконструировал стиральную машину для холостяков, наделенную формами знаменитой сексбомбы Лиан Карворс, платиновой блондинки, и другую — подобие Фирли Мак Фейн, брюнетку. Оборот тут же подпрыгнул на 87 процентов. Тогда противник обратился в конгресс, воззвал к общественному мнению, к Лиге дщерей революции, а также к Лиге девиц и матрон, однако Снодграсс продолжал непрерывно поставлять в магазины стиральные машины обоих полов, все более пикантные и вводящие в искушение. Наддлегг капитулировал и начал производить стиральные машины по индивидуальным заказам, придавая им по вкусу клиента фигуру, масть, упитанность и портретное сходство с фотографией, приложенной к заказу.”

“…их продукция начала проявлять неожиданные и явно отрицательные наклонности. Прачки-няньки не были еще самым большим злом, однако секспрачки, с которыми прожигала жизнь золотая молодежь, которые склоняли к грехопадению, подрывали моральные устои, учили детей непристойным словам, стали уже педагогической проблемой. Что уж говорить о стиральных машинах, с которыми можно было изменить жене или мужу! Удержавшиеся еще на рынке фабриканты стиральных средств и механизмов тщетно доказывали в публичных выступлениях, что стиральные машины — Лиан или Фирли — представляют собой профанацию высоких идеалов автоматизированной стирки, которая должна консолидировать семью и поддерживать прочность супружеских уз, — ибо они могут вместить не более дюжины носовых платков или одну наволочку, остальную же часть их нутра занимают агрегаты, не имеющие ничего общего со стиркой, скорее совсем наоборот.”

И так далее, и тому подобное. И как бы выдумка Лема не обернулась вдруг былью.

Рассказ, если что, нашёл тут: https://litmir.club/br/?b=143801