Про законы робототехники

У Айзека Азимова много написано про то, что три закона робототехники — это замечательно, но даже такие три простые правила можно интерпретировать по-разному. В одном из рассказов, не вспомню сейчас в каком, закон первый, т.е. “робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред” — был интерпретирован роботом как “людей надо нежно связать и запереть, чтобы они не причинили себе вред”. Что он незамедлительно и сделал.

А ныне ВВС США сделали симуляцию дрона, управляемого ИИ, который уничтожал системы вражеской ПВО. Прежде чем отбомбиться, ИИ запрашивал разрешения у оператора, который мог запретить уничтожение конкретно этого расчёта ПВО. Ньюанс в том, что за каждую уничтоженную систему ПВО искуственному интеллекту начислялись очки. Кончилось тем, что ИИ отбомбился… по оператору дрона, чтобы тот не выпендривался, и не мешал ИИ набирать эти самые очки.

https://www.theregister.com/2023/06/02/ai_drone_simulation/

“Гигабайт” слегка обосрался

Как интересно. У компьютеров с системной платой “Гигабайт” есть автоматическое обновление прошивки, которое запускается при каждой загрузке компьютера и обращается к одному из следующих ресурсов:

http://mb.download.gigabyte.com/FileList/Swhttp/LiveUpdate4
https://mb.download.gigabyte.com/FileList/Swhttp/LiveUpdate4
https://software-nas/Swhttp/LiveUpdate4

При обнаружении обновлений оно их сгружает и выполняет с системными привилегиями.

Фишка в том, что первый ресурс, например, не использует https, следовательно, если у злоумышленников есть доступ к сети организации, они могут подменить этот ресурс на что-то, содержащее всяческую вирусятину. Фишка вторая, что хоть другие ресурсы и защищены https, сгружатель обновлений никак не верифицирует их сертификаты, соответственно, подмена ресурса не менее тривиальна, чем обычный http.

Да, воспользоваться этой уязвимостью не сказать, чтобы было сильно просто — потребуется доступ к сети организации. Но сам факт того, что сгружатель может скачивать всякую фигню, никак не проверяя то, что он скачивает, довольно позорный. Я был лучшего мнения о программистах “Гигабайт”.

https://eclypsium.com/blog/supply-chain-risk-from-gigabyte-app-center-backdoor/

PS: Обновления для Windows, кстати, тоже скачиваются по простому http — это сделано для того, чтобы создавать меньшую нагрузку на серверы компании. Но Винда проверяет хеш каждого скачанного обновления — а уж сами хеши передаются по защищённому каналу.

PPS: У меня MSI 🙂

Про отнимание работы искуственным интеллектом

В комментах к записи про замену продавцов машинами вполне справедливо указали, что не только работникам торговли стоит опасаться конкуренции со стороны ИИ. Я думаю, наличие того же Адобе Светлячка, результатами которого я недавно делился, или Микрософт Дизайнера могут серьёзно подкосить индустрию иллюстраторов.

Однако многие эти прогнозы наткнутся на то, что работники соответствующих индустрий начнут активно сопротивляться. В особенности это касается вещей, которые требуют лицензирования. Одно только наличие требования лицензии уже может сделать ситуацию конкуренции со стороны ИИ невозможной — лицензия-то может выдаваться только дееспособному человеку. А признание ИИ дееспособным человеком — это пока из области бега по лезвию бритвы и снов андроидов про электроовец.

А какие у нас работы требуют лицензирования? Например, работа архитектора, врача, электрика, сантехника. И если представить себе робота-сантехника сложновато, то вот с врачом всё действительно будет непросто. Лицензия это же не просто разрешение. Это ещё и определённая гарантия качества и кнут со стороны государства — если врач серьёзно накосячит и дальше попрёт как бык на ворота, его могут лишить лицензии заниматься врачебной практикой, а это конец карьере.

Как эти вопросы будут решаться с нейросетками — понятно слабо, поэтому я думаю, что врачам как раз опасаться нечего. Тут у нас будет не замена врачей, а ментальный экзоскелет — во много разу усиливающий возможности доктора.

Но у нас ещё есть исключительно интересный случай, в котором ИИ уже успел програть. Это опять же, попытка замены человека, чья деятельность требует лицензирования — юриста.

Подробности можно прочитать у ув. giovanni1313:

Часть первая: https://giovanni1313.livejournal.com/119149.html
Часть вторая: https://giovanni1313.livejournal.com/119504.html

TLDR; Джошуа Брудер создал весьма успешного кибер-адвоката, изначально сделанного для того, чтобы отфутболивать автомобильные штрафы, а потом раздувшего амбицию до желания использования системы аж в Верховном Суде. А другие адвокаты ему сунули в рот известно что, и положили известно что на воротник. “Данная деятельность требует лицензирования, так что ты, Джошуа Брудер, сейчас занимаешься адвокатством без лицензии. Отсидеть шесть месяцев в тюряге хочешь?” Ожидаемо, Брудер сдулся, и так многое обещающий стартап закрылся.

Хорошо это получилось? Я считаю, что нет. Но это было ожидаемо — те, кому хорошо в какой-то определённой ситуации, будут эту самую ситуацию защищать, ибо им интересно статус-кво. Просто у иллюстраторов или там стокеров в магазине в заднице не так кругло, как у Национальной Гильдии Адвокатов. Поэтому последние покамест сумели остоять статус-кво. Поглядим, надолго ли.

Фаерфоксяша, гудбай

Я очень долго использовал ФаерФокс в качестве основного браузера, но больше так не могу. И дело не в том, что он меня не удовлетворяет — он мне нравится.

Но всё большее количество сайтов с ним не работают или имеют кривую функциональность. Страницы не перелистываются или ещё что подобное. Все нынче пишут под две платформы: Хромообразное или Сафари. При всей моей неприязни к разработчикам веб-сайтов мне сложно их винить — при количестве пользователей под Фаерфоксом менее 5% сложно от них требовать писать только так, чтобы и под ним тоже работало.

Фаерфокс также исключительно криво работает под Линуксом. Вот он ничего не делая, просто будучи запущенным, отжирает серьёзный ресурс у процессора. Чего он там делает — загадка, остальные-то браузеры работают нормально! Даже Эдж работает просто замечательно. Ага, Эдж есть под Линуксом! Прикиньте, компания Микрософт выпускает версию своего браузера под Линукс. Расскажи мне это в каком-нибудь 1999 году, я бы только пальцем у виска покрутил. Однако у Микрософта нынче с Линуксом любовь — что мне нравится, так как я, наверное, процентов 25 своей работы делаю под WSL. WSL в сто раз круче, чем тот же Цыгвин, потому что пакеты ставятся по-человечески, через apt. Чтобы добавить пакет в Цыгвин, надо каждый раз setup.exe запускать. И обновляться так же. Нафиг-нафиг.

В-общем, Фаерфокс меня замумил окончательно, так что я от него избавился. Нет, я перешёл не на Хром. Хром я не люблю, как и многие другие продукты компании Гугл (например, ВЕДРОИД этот ваш богомерзский).

Я перешёл на Брейв — сиречь, форк опенсорсного Хромиума. Эдж, к слову, тоже форк Хромиума. И Эдж мне в принципе, вполне нравится — я пользуюсь им для работы, так как я уж точно знаю, что с микрософтовскими сайтами он будет работать нормально. Это был мой запасной вериант, если бы Брейв мне не понравился.

Брейв пока неплох. Без проблем втащил все мои закладки и даже историю из Фаерфокса. Сайты все работают, пока всё хорошо. Буду наблюдать.

MIDI-квест или скупой платит дважды

Кто покупает три разных MIDI говношнурка, прежде чем купить нормальный — тот я.

Современные музыкальные инструменты подключаются к компьютеру по USB, изображая интерфейс USB MIDI. И всё с этим просто и понятно.

Однако старые инструменты имеют пятиштырьковый разъём MIDI, и подключать их надо через переходники MIDI->USB. Так вот, если возьмётесь такое делать, послушайте мой добрый совет — не покупайте дешёвые. Дешманские шнурки либо не работают вовсе, либо внутри них стоит настолько простенький микроконтроллер, что он просто не успевает обрабатывать поступающие данные. Особенно это касается MIDI барабанов, где часто играется одна и та же нота, много раз за секунду (дробь).

Единственный шнурок, способный обработать MIDI сигналы моего TD10 с такой скоростью — родной Роландовский.

Я долго жадничал, потому что он сорок долларов стоит 🙁 А вот не надо было. Вот и получилось, что скупой платит дважды, прямо как в пословице.

Зато теперь можно играть на барабанах через EZDrummer на лаптопе, если нормальная звуковая карта, поддерживающая ASIO — без задержек вообще.

Дырень

Читаю описание нулевой дырки в Аутлуке и только тихо фигею.

Нет, вы подумайте сами:

1. Можно написать специальным образом сгенерированное письмо.
2. В этом письме можно указать, что уведомление об это письме должно быть индивидуальным (кастомный звуковой файл). Пользователю даже не нужно это письмо открывать.
3. Этот файл с уведомлением может быть любым.
4. В том числе — он может находится по UNC пути, к которому надо пройти по протоколу SMBv3.
5. Сервер с файлом может находится где угодно, в том числе — в интернетах, хрен знает, где.
6. При попытке прочитать файл с сервера в UNC, может возникнуть необходимость авторизоваться.
7. Чтобы авторизоваться, Винда посылает серверу NTLM хеш пароля пользователя.
8. PROFIT!!!!

Рехнуться. Какой дурдом.

PS: Обязательно прикройте на брандауэре порт 445 на выход. Вредным не будет в любом случае, даже если обновление уже поставлено.

Сомсунк

Ах-ха-ха, какая ржака.

Телефон Самсунг S23, при съёмке луны крупным планом подсовывает пользователю картинку, сгенерированную искуственным интеллектом на основе реальных фотографий луны, сделанных через телескопы.

Видел в интернетах похожее, когда видео летящего в стратосфере самолёта делали этим же телефоном, причём с охрененными деталями, а потом тоже выяснилось, что картинка самолёта нарисована AI. Потому как оптика — это наука, а науку не обманешь. В толщину телефона в один сантиметр не впихнуть объёктив на 8000mm или сколько там надо.

Следующий прорыв будет — когда на пляже делаешь видео девок в купальниках, а скрозь телефон они все будут голые!!!!! Ради такого дела можно будет и богомерзский ваш Ведроид купить!!!!!

Вспомним юность золотую

“Когда я был маленький”, я был в грандж-группе. Так как из всех музыкальных инструментов у нас было две говноленинградских говногитары (акустические) и вокалист, будучи вооружён 61-клавишным синтезатором “Ямаха” (ещё один папин подарок из Японии) я стал бас-гитаристом, ударными, и всем прочим. Эдакий Дэвид Гетта.

Так как у синтезатора был МИДИ выход/вход, а я уже неплохо рубил в компьютерах, я подключил его к своему компьютеру, к миди-сиквенсору “Кейкуок Про Аудио” (Cakewalk Pro Audio), по-моему, версии не то 4, не то 5. В 1990х годах подключение выполнялось пятиштырьковым миди-шнурком, цепляющимся на гейм-порт в звуковой карте СаундБластер 32. Непросто всё было.

Чтобы получить нужный дисторшн, мы клали внутрь гитары советский микрофон, вот в точности такой:

Писали звук, а потом я прогонял его через фильтр внутри честно украденной программы КулЭдит 95 (Syntrillium Cool Edit 95). Звук, конечно, был аховый, Нирвана отдыхает.

Каким-то образом мой 486 DX-100 всё это умудрялся тащить. Это щас чтобы секретарше поглядеть эксель-документик надо i7 не ниже шестого поколения, а тогда трава пониже росла.

Ну, а наслушавшась музицирования младшего (его мёдом не корми — дай помузицировать, поиграть прогрессии аккордов), решил попробовать вспомнить всякое.

Только, конечно, 61-клавишный синтезатор мне даже в страшных снах на стол не влезет, так что взял 37-клавишный. Но хотя бы с полноразмерной клавиатурой, не детской.

Подключать его к компу можно, конечно, по старинке, пятиштырьковым разъёмом, но там теперь ещё есть USB порт, к которому никакой обвязки не надо — цепляешься и всё работает.

Что до программного обеспечения, то вы будете, конечно, смеяться, но за тридцать лет нихера не изменилось. Компания Синтриллиум, сделавшая КулЭдит была куплена компанией Адобе, и эта программа называется теперь Адобе Аудишен (Adobe Audition). Я прекрасно знаком с её интерфейсом, и получаю её вместе с подпиской на Adobe All Apps.

А Кейкуок нынче дают бесплатно. После Про Аудио они переназвали свой софт Сонар, потом встретились с финансовыми трудностями, так как на этом рынке появились серьёзные конкуренты, типа ПроТулз и Эйблтон. Кончилось тем, что из купили сингапурцы Бандлаб (BandLab) и они сделали Кейкуок бесплатным. А между прочим он был недешёвый нихрена, долларов шестьсот, и это были ещё доллары 1990х годов, а деньги тогда были дороже.

Так что вот так, замкнулось колечко. Вспомнить бы теперь, как всё это делается.

AI-творчество

Фублин. Нельзя же так пугать, крипота сплошная, а не “Простоквашино”.

Ещё, от того же автора, “Тайна третьей планеты”. Отец — вылитый Гордон Фриман. А Громозека похож.

Телеграм-канал авторского коллектива.