Category: обалдеть

Очень интересные нынче развития технологий намечаются. Огромной основой большого количества современных программ являются нейросети. Нейросети у нас нынче растут аки это самое в деревенском сортире, куда дрожжи кинули. Адски растёт количество параметров (взвешенных связей) между нейронами.

Набор параметров кажого нейрона представляет собой матрицу, и чтобы посчитать, активируется ли нейрон или нет, надо помножить вес каждой связи на входное значение этой связи, и смотреть, что получится. Математически выражаясь, считается скалярное произведение.

Количество параметров гугловской нейросети Inception третей версии — примерно 12 миллионов. То-есть, каждый раз мы считаем скалярное произведение матрицы с 12 миллионами элементов с точно такой же матрицей. Очень, очень вычислительно дорогое удовольствие.

Что с этим можно сделать? А, например, вот что. Можно каждый параметр представить резистором. Входное значение — поданное на него напряжение, вес — проводимость. Проводимость — величина, обратная сопротивлению: G = 1/R или же R = 1/G

А теперь закон Ома:

I = U/R, а R заменим 1/G: I = U/(1/G), упростим: I = UG. Подаём входное напряжение, и меряем ток. Вот вам и скалярное произведение, причём чисто аналоговыми методами.

Но хардверный резистор, разумеется, не очень удобно. Зато знаете, что удобно? Флеш-память! Флеш представляет собой миллиарды полевых транзисторов с изолированным затвором, ведущих себя как резисторы. Изначально на них хранили только 0 или 1, ток выше или ниже порогового значения считывался как ноль или единица. Потом сделали многоуровневую флеш-память, и на современных твёрдотельниках QLC каждая ячейка хранит аж 16 значений (4 бита). Теперь пошли дальше, и на этих электрически программируемых резисторах научились производить самые настоящие аналоговые вычисления, очень интересным применением которых и являются расчёты скалярных произведений для работы нейросетей.

Очень, очень интересные нынче вещи придумывают. Как вам такое — расчёты на жёстком диске?

Конечно, у подобного подхода есть недостатки: более низкая точность вычислений. Но нейросети, вообще-то и так работают по вероятностному принципу. Какая тебе, в сущности, разница, если нейросеть определяет фотки котиков с 99% точностью или “только” с 95%?

В-общем, с интересом смотрю за дальнейшим развитием событий. Я нейросети уже щупал плотно несколько раз, мне они очень нравятся, и я думаю, что если мы когда-нибудь придумаем полный ИИ, именно нейросети станут его основой. И не исключено, что в их основе будут именно аналоговые вычисления. Ну, как у нас в башке.

Не успел запостить про цену доски по состоянию на воскресенье, как цена рухнула почти на доллар.

Такой очешуительной волатильности на цену базовых продуктов я в жизни никогда не видел.

Рецессии — быть. “Теперь точно спою!”

Маркировка на лабораторном источнике радиации на Кобальте-60.

“РОНЯЙ И БЕГИ” (DROP & RUN).

А были случаи, когда детишки и не-детишки находили подобные вещи, и не читая надписи, клали такое в карман штанов. Кончалось такое очень плохо.

СЯУ, что помимо абсолютного нуля, т.е. температуры, ниже которой спуститься принципиально невозможно, существует также абсолютный температурный максимум, выше которого невозможно подняться. Абсолютный ноль составляет -273.15 градусов Цельсия. А каков абсолютный максимум? 1.42E+33, или же 1,420,000,000,000,000,000,000,000,000,000,000 градусов Цельсия. Ещё её называют Планковской температурой. Если объект, достигнувший этой температуры, продолжать греть, начнут появляться миниатюрные чёрные дыры. И чем мощнее греть, тем больше чёрных дыр будет появляться, но выше этой температуры объект не нагреется. Это как кипящий чайник — если его сильнее греть, он будет просто сильнее кипеть, но температуры воды в нём всё равно будет равна ста градусам Цельсия.

Не знал, что такое есть.

Не знаю, насколько это нужно и практично. Музыку в единствнном экземпляре вполне нормально записывать карандашом или ручкой.

В ЖЖ есть интересный человек Михаил Шифман, преподаватель теоретической физики в университете Миннисоты, лауреат многочисленных наград. Он часто описывает разные судьбы людей в своём ЖЖ.

В том числе он написал про художника Виктора Арнаутова, царского офицера, воевавшего против красных в белой армии, сбежавшего в Мексику и затем США, а потом вернувшегося в СССР в хрущёвское время:

https://traveller2.livejournal.com/534945.html
https://traveller2.livejournal.com/535631.html
https://traveller2.livejournal.com/538481.html

Когда повествование Миши дошло до пребывания Арнаутова в СССР, я понял, что где-то про всё это я уже слышал. И понял, где — Арнаутов в СССР заимел роман с Нонной Талепоровской, которая была замужем за художником Бетехтиным. А её сын, Сергей Бетехтин-Талепоровский, пил у меня дома водку, будучи в Алабаме проездом.

Некоторые ЖЖ-друзья его знают как байкера под кличкой LONER 😉

Во блин, сошлось колечко.

Как известно, парусная лодка может идти быстрее ветра. Но с оговоркой — если ветер сбоку. Тогда парус работает не за счёт сопротивления, а за счёт подъёмной силы. Он выступает в той же роли, как и крыло самолёта.

Быстрее ветра по ветру обычная парусная лодка идти не может, так как в таком случае парус не создаёт сопротивления.

А эти граждане — сделали лодку, которая может идти по ветру быстрее ветра. Смотрел-смотрел объяснения, так и не понял, как. Они говорят, что тут оно работает за счёт подъёмной силы, создаваемой винтом. Хорошо, а откуда берётся сила, чтобы крутить винт? От колёс, с ним связанных. Хорошо, а как крутятся колёса? Винтом? Какой-то вечный двигатель получается, так и не понял, как это работает.

Момент с демонстрацией работы устройства начинается примерно на 16 минуте. Объяснение принципа работы — на 17:25.

Оказалось, пожарный танк с двумя дрыгателями от МиГ-21 — тушить нефтяные пожары задуванием туда гигантского количества воды.

Сделали венгры. Выглядит просто эпически.

VIA