Математическое и компьютерное

Вот некоторые думают, что если вычисления перенести на ГПУ вместо ЦПУ, то:

1. Всё сразу заработает в сто раз быстрее.
2. Будет сразу работать лучше.

АвотшЫш. Не всегда, и не везде.

Вот сделал я нейросеть, модель одинаковая, довольно несложная, пятислойная, сто нейронов в каждом слое, итого 50 тысяч параметров — по нынешним меркам вообще три копейки.

Запускаю на ЦПУ — сеть тренируется за три минуты, и выдаёт довольно нормальный результат, с точностью в пределах 0.7%

Запускаю на ГПУ — сеть тренируется уже за пять минут, а не за три, а результат у ней — заметно хреновей, с погрешностью уже 1.23%

Я полагаю, что последнее это потому, что TensorFlow, будучи запущенным на ГПУ, по умолчанию до сих пор использует 16 бит для представления чисел с плавающей запятой, вместо 32 бит или даже 64. Надо будет поглядеть, можно ли его заставить использовать больше бит. Хотя, конечно, математика на компьютерах — она дело такое, что вообще-то никто гарантии, что результат вычислений будет одинаковым, если программа запускается на процессорах разной архитектуры, никогда не давал. Особенно, если числа такие, что представить их точно в формате IEEE-754 невозможно (например, десятичная дробь 0.2).

А вот почему оно ничуть не быстрее работает на ГПУ, чем на ЦПУ — для меня уже загадка. RTX3080 вроде как пошЫрше должен быть во флопсах, чем i9-11900k @ 3.5GHz. Может быть, такая маленькая модель его просто нагрузить толком не в состоянии.

И да, “чтобы два раза не вставать”.

Как наиболее правильно считать и представлять среднюю ошибку в вычислениях?

Вот, например, если в одном предсказании из двух программа ошиблась на +100%, а во втором — на -100%, врядли заявление о том, что средняя ошибка составляет 0% (100-100)/2, будет представляться нам истинным.
Но с другой стороны, если тупо считать ошибки по модулю, а программа при этом стабильно ошибается то на +1%, то на -1%, статистически-то ведь она, можно сказать, что не ошибается вовсе.
Как обычно действуют, вдруг кто знает?

Какая хорошая статья про флеш-память

Прямо с большим интересом и удовольствием прочитал.

Вкратце — на данный момент ситуация с современными накопителями на флеш-памяти сильно деградировала, и получилась не очень. В погоне за терабайтами и прибылью потребительские диски делают на технологии QLC (4 бита в одной ячейке), у которой во-первых, резко ограничено количество циклов записи (всего 900, а то и того меньше), а во-вторых, она медленнее намного.

Чтобы создать хоть какую-то видимость производительности, изготовители делают диски гибридными — делают кеш на SLC, а остальное — QLC.

Так, 500-гигабайтный диск Crucial BX500 имеет примерно 45 гигабайт кеша на SLC. Поэтому имеем такой график — пока заполняется кеш, скорость записи хорошая, под 500 метров в секунду. Кеш заполнен — проваливается до 57 мегабайт в секунду:

Только вот 57 мегабайт в секунду — это, на минуточку, показатели обычного магнитного диска! Который обладает намного лучшими характеристиками по долговечности и циклам перезаписи (я вообще не уверен, ограничены ли они). И какой тогда, спрашивается, резон покупать вот такой твёрдотельный диск?

Отдельно маньякнутные маньяки, вроде соавтора статьи, заливают специальную прошивку в контроллер диска, отключая всю область QLC к соответствующей матери. Ну да, карета превращается назад в тыкву вместо терабайтного диска получается диск на 120 гиг, только он работает как бешеный, и имеет 60 000 (шестьдесят тысяч) циклов перезаписи.

В-общем, QLC — говно. И, скорее всего, через несколько лет он уйдёт в закат, так как для NAND флеша это тупик. На рынок, наверное, выйдет какая-то новая технология, типа неудавшейся в своё время Optane (3D XPoint).

А вот какой нынче накопитель покупать, чтобы не купить говно — вопрос интересный.

Про мультфильмы Миядзаки

Я тут недавно сказал, что люблю мультфильмы великого японского аниматора за тщательную проработку деталей. И многие детали там всё же проработаны на пятёрку с плюсом, например, радиопричиндалы в “Поньо”.

Кстати, какого рожна в общепринятой русской транскрипции она “Поньо”, а не “Понио”? Если так писать, то придётся писать “Токьо” вместо “Токио”. Или давайте уж тогда по чесноку включим Полного Поливанова, и будем говорить (относительно правильно) — Понё и Токё. Японцы, если что, примерно так и произносят.

Сорян, наболело!!!!

Дети присели пересмотреть “Навсикаю”, и скажу я вам, что всё же не все детали дедушка прорабатывал так же тщательно. Нет, к чисто фантазийным вещам, типа летающих этих кораблей, которые однозначно летать не будут, претензий никаких — на то они и фантазийные. Что, кстати, странно для такого поклонника авиации, как Миядзаки, который даже свою студию назвал в честь итальянского военного самолёта-бомбардировщика Капрони Ка.309 «Гибли». Мог бы и чего реалистичнее нарисовать. Но вот ружжо у Навсикаи какое-то откровенно дурацкое.

Что мы видим? Мы видим карамультук с продольно-скользящим затвором, но без магазина. Решительно непонятно — зачем городить огород с таким затвором, если карамультук однозарядный. Значительно проще и дешевле было бы сделать обычную переломку или клиновый затвор, как на Винчестере 1885.

Потом, что это за приклад такой — мало того, что абсолютно прямой, так еще и идущий как вниз, так и вверх? Если такой карамультук нормально вложить, то прицельные устройства на нём будут примерно на уровне сисек главной героини 🙂 И прицелиться из этого будет решительно невозможно.

Вот, для сравнения, та самая однозарядная винтовка Винчестер 1885. Видите, как изогнут приклад? Это чтобы поднять линию прицела выше, к глазам.

Но всё это мелочи, фигня по сравнению со следующим кадром, на котором видно, что из затвора карамультука сантиметра эдак на три торчит боёк!

Мало того, что боёк не высовывается так далеко даже при стрельбе, если оно постоянно так торчать будет, то главная героиня наколет капсюль патрона, просто закрыв затвор!

Вот фотография “моси” с открытым затвором, скажите, вы видите тут торчащий на три сантиметра из затвора боёк? Нет? И я нет.

В-общем, конечно, дедушка любит и умеет прорабатывать детали, но нормально он их может прорабатывать только на том материале, который он сам хотя бы пару раз видел. Японцы, видимо, огнестрел видят только в фильмах, поэтому вот такое.

Но дедушку мы, конечно, всё же будем любить, и ему, безусловно, простим 🙂 Навсикая — прекрасный мультфильм, несмотря ни на что.

ИИ-погромизм

Занимался вчера созданием нейросетей под руководством ChatGPT. По итогам я имею сказать вот что.

В целом — впечатляет. Даёт не самый плохой код на Питоне для создания нейросети на TensorFlow, что характерно — используя keras. Практически то же самое, что я сам рисовал четыре года назад.

Только в этот раз я замахнулся пошЫрше и решил нейросети скормить csv с “финансовыми транзакциями”. Внутри csv было одиннадцать колонок, десять просто с числами, а одиннадцатая — с довольно сложным вычислением из данных, находящихся в шести колонках (сложение двух дробей, вычисление 10% от полученного, и складывание с ещё двумя колонками). Четыре оставшиеся колонки не делали ничего.

Модель делал пятислойную, сто нейронов в четырёх слоях, один нейрон в выходном слое (это уже не ЧатЖПТ предлагал, это уже я сам). Наверное, это даже избыточно сложная модель.

Сделал два csv файла, один с 200 строками — это был тренировочное множество, и второй — всего с десятью. Я хотел посмотреть, сможет ли нейросеть распознать, какая именно зависимость существует в одиннадцатой колонке, и сможет ли она предсказать данные, полученные таким образом.

Скажу сразу, всё получилось. Конечно, математика на нейросетях довольно неаккуратна, но после 5000 эпох тренировки она смогла предугадывать значения с точностью, не выходящей за рамки 5%. Планирую показать результат начальнику, контора сильно озаботилась встраиванием ИИ в продукцию.

Но помимо этого, у меня возникли небольшые сложности, и возникли они именно от применения ИИ.

Во-первых, ЧатЖПТ нередко даёт код для Питоновских библиотек, который уже является устаревшим (deprecated). Например, свойство pandas.DataFrame.iloc — вытаскивание индивидуальных колонок из pandas.DataFrame.

Во-вторых, ЧатЖПТ создаёт в коде баги. Например, вместо десяти строк в тестовом наборе данных у меня почему-то считывались только девять. Разговор шёл примерно вот так:

–А у меня вместо десяти ожидаемых строк только девять.
–Может, данные кривые? Вот как их надо нормализировать.
–Данные нормальные, но считывается только девять строк вместо десяти. Первая строка проглатывается.
–Не должна. Вот код, как правильно считывать csv через pandas.read_csv
–Я этот код и использую, но первой строки нет.
–Ну, правильно, потому что по умолчанию первая строка считывается в имена колонок. В pandas.read_csv надо ставить параметр header=None, чтобы так не происходило.
–А чо сразу-то не сказал?
–Извиняюсь.

Но в целом (в целом) — впечатляет, да. Далеко не с каждым человеком я на эту тему могу поговорить, более того, не каждый сразу “на гора” выдаст работающий (более-менее) код. Ошибается иногда? Ну да, ошибается. Покажите мне человека, который не ошибается, и я покажу вам лентяя, который никогда ничего не делает. Тем не менее, лентяю в способности рассуждать почему-то не отказывают, а искуственному интеллекту — таки да. Неправильно это, ИМХО. ИИ вполне способен на рассуждения.

Плата за страх

Помнится, в далёком детстве прочитал я эту повесть Жоржа Арно, и запала она мне в душу. Вкратце, она про то, как в Гватемале, в одной из нищих деревенек, где, помимо местных индейцев, живёт пёстрая группа белых самого разного происхождения, происходит пожар на одной из нефтяных скважин американской компании. Единственным способом потушить огромный пожар является перекрывание источника нефти взрывом, только вот единственная взрывчатка в наличии больно капризная — нитроглицерин, который может взорваться просто от сильного толчка. Американская нефтяная компания предлагает крупную сумму денег тому, кто возьмётся доставить нитроглицерин на скважину…

В оригинале большая часть повести посвящена тому, насколько отчаявшиеся белые собрались в этой деревеньке. Повесть была опубликована в 1950 году, и Вторая Мировая по историческим меркам была только пять минут назад. Так что среди белых, как положено, есть всякий сброд — вчерашние власовцы, бывшие преступники, и так далее. Работы в деревеньке нет практически никакой, и ни у кого нет даже денег, чтобы уехать. Так что люди реально отчаялись и были готовы на всё — в том числе возить по колдобинам нитроглицерин.

Надо сказать, что Арно писал свою книгу практически с натуры. Растратив наследство, в 1947 году он уезжает в Южную Америку, где работал кем попало, и встречал самых разных людей — именно что бывших власовцев, нацистов-участников организации “ОДЕССА”, коллаборантов, и прочих беглых преступников.

У повести было несколько экранизаций. Поглядел пока две из них.

Эталоном является французский фильм 1953 года с Ивом Монтаном.

Он сделан очень близко к тексту, и замечательно снят, в лучших триллерных традициях, со всё нарастающим напряжением. И конец в нём тоже… по книге. В США фильм сочли антиамериканским (ибо главным антигероем является американская нефтяная компания), и подвергли бессовестной цензуре (в 1950е вообще нигде особо не церемонились, это вам не сейчас). Отсмотрел сначала эту киноработу. Отличный фильм, но начало (по современным меркам, опять же) немного затянутое. В 1996 году вышла колоризированная версия фильма (надо будет найти).

Американцы в ответ сделали аж три фильма по книге, некоторые — с очень сильными отступлениями от изначального текста.

“Жестокая дорога” (Violent Road) 1958 года — где граждане везут по опасной горной дороге капризные компоненты ракетного топлива — гептил, азотную кислоту, и концентрированную перекись водорода. Надо это было сделать потому, что компания-государственный контрактор-ракетчик была вынуждена перевезти в другое место ракетный завод за три дня — или потерять государственный контракт. Не смотрел пока.

“Колдун” (Sorcerer) 1977 года — наиболее близкий из американских римейков к французскому фильму 1953 года. Вместо нитроглицерина они везут старый динамит. Динамит, если кто не знает, это смесь нитроглицерина и поглотителя — опилок, песка. С голым нитроглицерином работать сложно, уж больно он капризный, а если он в виде динамита, то нормально. Можно даже с сахаром смешать. При длительном хранении нитроглицерин из динамита начинает “выпотевать”, и взрывчатка становится очень нестабильной. Не смотрел, но обязательно буду, пишут, что очень хороший.

“Ледяная Дорога” (Ice Road, The) 2021 года — фильм с Нисоном и Фишбёрном. Фильм вообще не про то, и практически не по книге. Водителю необходимо доставить взрывчатку для того, чтобы спасти шахтёров в заваленной алмазной шахте. Шахта находится в Канаде, и грузовик надо провести по тонкому льду замерзших озёр. Помимо сложнейшего маршрута, конфликт в фильме ещё в том, что среди группы водителей есть предатель, который пытается замести следы и увести компанию-владельца шахты от ответственности за трагедию с шахтёрами. Ещё не смотрел, но настолько сильное отступление от оригинала меня как-то настораживает. Фильм в прокате больших денег не собрал.

И ещё есть свежий (2024) французский фильм режиссёра Жулье Леклёра, который так и называется — “Плата за страх” (Le salaire de la peur/Wages of Fear, The). Действие в нём перенесено куда-то в Африку (фильм снимали в Морокко), раздираемую межплеменными войнами. Чтобы добавить драматизьму, режиссёр решил, что если скважину не потушить, она взорвётся, и вынесет с собой крупное местное поселение. А чтобы ещё добавить драматизьму, главный герой едет не за деньги, а за совесть — чтобы вызволить родного брата из тюряги. Если честно, то фильм барахло. В одном моменте по грузовику, нагруженному нитроглицерином, практически в упор херачат из пулемёта, и… ничего не происходит. В-общем, я вторую половину фильма досмотрел на скорости 1.75. Ничего не потеряете, если не посмотрите.

Узнал

…что некоторые виды муравьёв делают друг на друге сложные хирургические операции, такие, как ампутация инфицированных конечностей и санация ран.

Что характерно, единственным другим видом животных, способных на такие вещи, является человек.

Отвал башки.

Про гамаки

Интересно, среди читателей есть ли кто-нибудь, кто ходил в походы с гамаком вместо палатки?

Нет, речь не об этом:

“Сетчатые гамаки с распорками есть мерзость в глазах Господа твоего” (1-е Послание к Охотникам, глава 2, стих 42).

Я тут почитал, и нормальный гамак выглядит вот так, и лежат в нём — диагонально, потому что если так лечь, то можно лежать РОВНО, и не выгибаться самому как банан:

Плюс я, например, на боку сплю, на спине не могу. Если лечь по диагонали, то на боку тоже можно спать в гамаке.

Почему я вообще этим заинтересовался. Когда я сплю на природе, то у меня, безусловно, комфорт:

Но чтобы такое обеспечить, надо притащить четверть короткой тонны всякого: палатка, раскладушка, матрасы, и далее по списку. Теоретически, гамак с противокомарной сеткой и брезентом сверху (если намечается дождик) может всё это заменить в одно рыло — и палатку, и раскладушку, и всё прочее. А для холодного времени года на гамак снизу можно прицепить специальное одеяло:

В-общем, тема интересная, но не хочется всё это покупать, чтобы потом забросить как ненужное.

Запаял

На выходных ремонтировал сгрызенный древесными крысами (белками) грузовик. Починил! Спаял/заменил в результате три кабеля и заменил два датчика:

1. Датчик детонации + пайка кабеля. Это была самая жопь, потому что он расположен в ложбине V-образного двигателя, под впускным коллектором (в просторечии — “пауком”). Хорошо ещё, что он у меня только один. На некоторых фордовских восьмёрках их два — по одному на левую и правую группу цилиндров.
2. Датчик температуры блока цилиндров, его разъём и кабель. Этот ничего, был попроще, хотя он тоже почти под коллектором.
3. Разъём и кабель топливного инжектора пятого цилиндра. Хорошо, что пятого (он спереди), а не восьмого или четвёртого.

Люблю я эти новомодные кембрики с паяльной пастой внутри. Раньше надо было провода аккуратно скручивать вместе, потом пропаивать, потом сверху кембрик и усаживать феном. А теперь попроще — теоретически даже провода не надо предварительно облуживать (но я всё равно облуживаю). “На предмет самовозгорания.”

Зачистил:

Облудил, надел:

Усаживаю/паяю феном температурой 320С. И всё готово в один шаг — и спаяно, и заизолировано:

Керемендую.

Про дебаты этого, дьявола, с Каутским

А вот я про “дебаты”, конечно же, знал, но не смотрел, смотреть не стану, и вообще мне начхать на то, кто придёт к власти в конце года. Не изменится же ничего. Госдолг есть, и будет расти. Инфляция есть, и будет продолжаться. Медицинское обслуживание как стоило неметрических денег, так и будет их стоить. Нелегальная иммиграция есть и будет дальше, потому как решать проблему по-настоящему, что значит начать сажать владельцев и управляющих компаний, нанимающих нелегалов, никто не будет, вы чо, это же бабло, а бабло это святое. Хучь стену строй, хучь не строй, всё равно получишь… хой. Яростная имитация борьбы слона с ослом — она именно что имитация.

Основная движуха, причём движуха, которая простых людей вроде меня касается, у нас не в исполнительной ветви власти нынче происходит, а в судебной. Так что кто там в исполнительной власти сидит — насрать сто куч.

Вы хотите примеров? Их у меня — солить можно.

При Трампе, напомню, запретили бамп-фаер приклады. А Верховный Суд при Байдене — разрешил. Кстати, про эти самые приклады. Когда их запретили, сказали, что существующие надо сдать. Ну, из многих тысяч проданных наиболее совестливые и лояльные сдали, что ли, не то сотню, не то полторы. Даже интересно — а щас их как, вернут взад? 😀

Да и вообще, из-за расовых беспорядков БЛМщиков “нашего полку прибыло” — в одном 2022 году прибавилось 5.4 миллиона новых владельцев оружия. А теперь из-за масштабных антисемитских шабашей вооружаются наши еврейские друзья (и правильно делают). Байден, как в своё время Обама, может смело получать медаль “За увеличение количества вооружённых евреев американцев”.

А помните в одно время запретили завершённые на 80% ствольные коробки? Я тогда ещё, как всякой нормальной девиант, прикупил себе, щоб прикопати в саду кулемет було.

Ну, а Апелляционный суд США для пятого округа — хоба, и запретил запрещать. А ещё Верховный Суд согласился рассмотреть это дело, дабы вынести окончательный вердикт, который ожидается в октябрьской сессии Верховного Суда.

Так что на данный момент куски алюминия огнестрельным оружием не являются, покупайте вдоволь.

Да что мы вообще, о приземлённом говорим? Такая фундаментальная вещь, как аборты, была решена не органами исполнительной власти, а законодательной.

А расовые квоты помните? Их тоже — тово.

Да и вообще, если бы не Верховный Суд, никаких дебатов вообще бы не было, так как без соответствующего решения Доня Козырев тупо не присутствовал бы на избирательных бюллетенях некоторых штатов.

Так что насрать сто куч, кто там у нас в исполнительной власти засел, Верховный Суд — вот это сила.

Запрещённая в России информация

Ихнее гестапо вместе с ихним фюрером и рейхстагом уже вконец рехнулись. Впрочем, конечно, ни для кого это, по большому счёту, не секрет.

“…на основании решения Федерального агентства по делам молодежи от 26.06.2024 № 2024-06-24-10210-ВН указатель (указатели) страницы (страниц) сайта в сети “Интернет” https://nlothik.livejournal.com/1361642.html включен(ы) в «Единый реестр доменных имен, указателей страниц сайтов в сети «Интернет» и сетевых адресов, позволяющих идентифицировать сайты в сети «Интернет», содержащие информацию, распространение которой в Российской Федерации запрещено», номер реестровой записи 2595432-РИ в связи с тем, что данная информация содержит информацию, направленную на склонение или иное вовлечение несовершеннолетних в совершение противоправных действий, представляющих угрозу для их жизни и (или) здоровья либо для жизни и (или) здоровья иных лиц.”

Вы чо думаете, по ссылке инструкции о том, как изготавливать самодельные взрывные устройства, наркотики, и тому подобное? Нет. Там всего-лишь залезание в заброшку на Чукотке.

Какая замечательная, наверное, нынче в России жизнь. У Федерального агенства по делам молодёжи РФ никаких других дел не осталось, кроме как Плотника в интернетах гонять. Все остальные проблемы они для этой самой молодёжи — уже решили. Аж завидно.

dibr, бери на заметку на всякой случай, а то я тебе щас за заброшки тоже чего-нибудь впаяют.