Category: AI

Ув. vaf под­ки­нул ссыл­ку на то, как севе­ро­ко­рей­ские шпи­о­ны исполь­зу­ют ИИ для того, что­бы про­ни­кать в аме­ри­кан­ские кон­то­ры. Я про это уже читал, конеч­но, и мне все­гда боль­ше инте­рес­но даже не то, что севе­ро­ко­рей­цы таким зани­ма­ют­ся — оно понят­но, что вра­ги, но вра­ги — они как пого­да, будут все­гда. Инте­рес­нее, кто им помо­га­ет в США, какие на всю баш­ку отмо­ро­жен­ные при­дур­ки, ходя­щие под феде­раль­ны­ми ста­тья­ми? Ну, а пого­ду ты изме­нить не можешь, но можешь взять зон­тик.

Так вот про­тив севе­ро­ко­рей­цев вне­зап­но нашёл­ся зон­тик-шиб­бо­лет. У всех соис­ка­те­лей, подо­зре­ва­е­мых на севе­ро­ко­рей­ность, обыч­но доста­точ­но спро­сить что-то нега­тив­ное про Люби­мо­го Руко­во­ди­те­ля. Напри­мер, «поче­му Ким Чен Ын такой жир­ный?»

«Севе­ро­ко­рей­цы обыч­но закан­чи­ва­ют зво­нок», как сооб­ща­ет The Register.

Вот поду­мал, а какие про­фес­сии в мире инфор­ма­ци­он­ных тех­но­ло­гий может убить иску­ствен­ный интел­лект?

На мой взгляд, ника­кие.

Возь­мём, напри­мер, сисад­мин­ство, мне наи­бо­лее близ­кое.

Что в мире сисад­мин­ства может сей­час сде­лать ИИ? Писать неслож­ные скрип­ты? Ну, может — хотя с боль­ши­ми ого­вор­ка­ми, про них ниже. Рисо­вать пра­ви­ла для бранд­мау­э­ра под нуж­ные зада­чи? С боль­шим скри­пом, зна­е­те ли. Вот я попро­сил нари­со­вать пра­ви­ла для бранд­мау­э­ра, сто­я­ще­го меж­ду IIS веб-сер­ве­ром, при­цеп­лен­ным к доме­ну, и кон­трол­ле­ром доме­на — ИИ пол­но­стью про­со­ха­тил NTP, напри­мер (порт 123/UDP). А если у тебя на сер­ве­рах и домен­ных кон­трол­ле­рах вре­мя не сов­па­да­ет, то квер­ху мехом поплы­вёт кер­бе­рос, после чего вооб­ще вся аутен­ти­фи­ка­ция в домене пой­дёт по извест­но­му месту.

ИИ — пти­ца гор­дая, не пнёшь — не поле­тит:

Да шут с ними, со скрип­та­ми и пра­ви­ла­ми для бранд­мау­э­ра. Витую пару кто будет обжи­мать? Тоже ИИ? А по фальш-потол­ку лазить будет кто, тоже он? Менять бата­рей­ки в ИБП, сер­ве­ра ста­вить в рэки, под­клю­чать и настра­и­вать ком­му­та­то­ры, мон­ти­ро­вать точ­ки бес­про­вод­но­го досту­па, менять кар­три­джи в лен­точ­ных нако­пи­те­лях, отво­зить их в банк, и так далее, и тому подоб­ное — кто будет? Неуже­ли тоже ИИ?

Нет, брат­цы-кро­ли­ки, это какой-то кибер­си­сад­мин-тер­ми­на­тор пона­до­бит­ся, и что самое глав­ное — сто­ить-то он будет доро­же чело­ве­ка.

Вот дурац­кие кар­тин­ки рисо­вать — это оно уме­ет, да.

Какие ещё про­фес­сии в ИТ может заме­нить ИИ? Про­грам­ми­ста, что ли? Ну, я не вполне про­грам­мист, хотя бака­лав­ра я полу­чил в CS. Но даже из того, с чем я стал­ки­вал­ся лич­но, вполне оче­вид­но, что код, гене­ри­ру­е­мый ИИ, во вся­ком слу­чае, на дан­ный момент — гов­но. Нет, я не хочу ска­зать, что он не рабо­та­ет.

Про­сто во-пер­вых, биб­лио­те­ки, объ­ек­ты, и вызо­вы, кото­рые исполь­зу­ет про­грам­ма, ИИ напи­сан­ная, обыч­но уже года два-три не исполь­зу­ют­ся, так что от сре­ды раз­ра­бот­ки в рожу как мини­мум при­ле­та­ют пре­ду­пре­жде­ния о том, что «code deprecated». А во-вто­рых, в про­грам­ми­ро­ва­нии спо­со­бов снять шку­ру с кош­ки — мильён, и ИИ не выбе­рет самый луч­ший. Он выбе­рет тот, кото­рый зна­ет.

Я тут у себя дав­нень­ко напи­сал было гнев­ный пост о том, что R, дескать, мед­лен­нее Пито­на с Нам­па­ем — исполь­зуя код на R, нари­со­ван­ный ЧатЖПТ. А потом в ком­мен­ты при­шёл погро­мист на R и немнож­ко, но неж­но пово­зил меня рожей об стол, дав мне нор­маль­ный код на R, кото­рый выпол­нял­ся раз в десять быст­рее мини­мум.

На дан­ный момент код, гене­ри­ро­ван­ный ИИ, годит­ся мак­си­мум на то, что­бы начать с чем-то раз­би­рать­ся (как вот я, напри­мер, ниче­го не знал про язык R), а как толь­ко раз­бе­рёшь­ся — сра­зу же выяс­ня­ет­ся, что делать луч­ше не так, а совсем даже по-дру­го­му.

И даже про­стень­кие скрип­ты для сись-адми­ни­ро­ва­ния ИИ рису­ет через зад­ни­цу. Скрип­ты, кото­рые пишу я, обыч­но раза в два-три коро­че гене­ри­ру­е­мых ИИ, их лег­че настра­и­вать под свои нуж­ды, их про­ще читать, и рабо­та­ют они быст­рее.

Мож­но, конеч­но, упо­вать на то, что «щас ИИ допи­лят и тогда». А вы зна­е­те, я не раз­де­ляю опти­миз­ма. И дело даже не в том, что я счи­таю, что мы прак­ти­че­ски пол­но­стью выбра­ли тот запас, кото­рый есть в суще­ству­ю­щих моде­лях ИИ — хотя и это тоже прав­да. Что­бы про­дол­жать раз­ви­вать моде­ли так, как они раз­ви­ва­ют­ся сей­час, экс­тен­сив­но, нам надо было поза­вче­ра начи­нать стро­ить ядер­ные элек­тро­стан­ции, при­чём мас­со­во. Пото­му что жрёт это дело сей­час — про­сто как не в себя. Вот у шури­на есть школь­ный това­рищ, инже­нер-элек­трик «Сатерн Ком­па­ни». При­шёл к ним Мик­ро­софт, гово­рит, хотят стро­ить дата­центр для ИИ в Мис­сис­сип­пи — бла­го там зем­ля дешё­вая. Глав­ный затык — енто­му дата­цен­тру вынь да положь 500 мега­ватт мощ­но­сти. А где её взять, спра­ши­ва­ет­ся? 500 мега­ватт — это, мяг­ко выра­жа­ясь, дохе­ра как мно­го. И ента ваша «зелё­ная энер­гия» с вет­ряч­ка­ми да панель­ка­ми её обес­пе­чить тупо не в состо­я­нии. Не в режи­ме ²⁴⁄₇.

Глав­ный затык — он в том, что любая, самая слож­ная модель — бес­смыс­лен­на без тре­ни­ров­ки, а на чём её тре­ни­ро­вать? На том, что лежит в интер­не­те? В интер­не­те лежит «мне­ние боль­шин­ства», а в узко­спе­ци­аль­ных вопро­сах боль­шин­ство, как извест­но, все­гда непра­во.

Но даже если в интер­не­те лежа­ла бы «прав­да», то я не знаю, как в дру­гих обла­стях, а в сфе­ре инфор­ма­ци­он­ных тех­но­ло­гий «прав­да» теря­ет акту­аль­ность чуть быст­рее, чем мгно­вен­но, а так как модель тре­бу­ет для тре­ни­ров­ки огром­ное коли­че­ство машин­ных часов, к тому вре­ме­ни, как она эту «прав­ду» усво­ит, она уже уста­ре­ет. Имен­но поэто­му код, гене­ри­ру­е­мый ИИ, почти все­гда (в моём опы­те) мар­ки­ру­ет­ся как «deprecated».

Так что лич­но я счи­таю, что айтиш­ни­кам боять­ся нече­го. Пока (пока) ИИ рабо­та­ет, на мой взгляд, имен­но так, как он дол­жен рабо­тать — «мно­жи­те­лем силы» для масте­ров. Под­ма­сте­рье, если мож­но так выска­зать­ся; под­спо­рье как мак­си­мум.

Спро­сил у двух раз­ных систем ИИ сыг­рать со мной в кре­сти­ки-ноли­ки.

Обыг­рал всех всухую. Такое ощу­ще­ние, что ходы были вооб­ще слу­чай­ные, хотя я спе­ци­аль­но тре­бо­вал, что­бы оно исполь­зо­ва­ло мини­макс для оцен­ки сво­их ходов. Нор­маль­но сде­лан­ный мини­макс обя­зан при­во­дить игру в кре­сти­ки-ноли­ки в состо­я­ние ничьей.

Это же не шах­ма­ты, тут мак­си­маль­ное вооб­ще воз­мож­ное коли­че­ство игр 9! = 362,880.

Сароч­ка Кон­нор может спать спо­кой­но.

Напи­сал ком­мент ув. dibr, решил, что он досто­ин отдель­но­го поста.

Ска­жу сра­зу, ответ на вопрос я не знаю, может ли. Не видел пока при­ме­ров того, как ИИ спо­со­бен на такие спо­со­бы мыш­ле­ния, напри­мер, как ана­ло­гия — хотя видел при­ме­ры дедук­ции.

Я не знаю, какое кон­крет­но мыш­ле­ние есть у ИИ, но знаю точ­но, како­го у него нет. У ИИ до сих пор отсут­ству­ет кри­ти­че­ское мыш­ле­ние, он как Адам и Хав­ва до того, как они под­да­лись коз­ням шай­та­на. «Как в тре­ни­ро­воч­ных мате­ри­а­лах ука­за­но — так и вер­но». Об этом сви­де­тель­ству­ют пери­о­ди­че­ские оче­вид­ные про­га­лы в логи­ке, напри­мер:

Люди даже отсле­ди­ли это до какой-то шутей­ной ста­тьи в сти­ле The Onion, из кото­рой ИИ почерп­нул сей пре­муд­ро­сти. Хотя чело­ве­ку, зна­ко­мо­му с пище­ва­ри­тель­ной систе­мой, вполне оче­вид­но, что даже если в гра­вии были бы какие-то мик­ро­эле­мен­ты, обыч­но­го пище­ва­ри­тель­но­го сока и энзи­мов реши­тель­но недо­ста­точ­но, что­бы достать их из квар­ца или там поле­во­го шпа­та.

Не менее пре­крас­но пред­ло­же­ние доба­вить «неток­сич­ный клей» к пиц­це.

И вот то, что ИИ сам не уме­ет кри­ти­че­ски отно­сить­ся к мате­ри­а­лу, кото­рый сам же пере­ва­ри­ва­ет — не знаю, как дру­гим, а мне гово­рит о том, что с реаль­ным мыш­ле­ни­ем там пока туго­ва­то.

Игра­юсь с боль­шы­ми язы­ко­вы­ми моде­ля­ми, запус­ка­е­мы­ми локаль­но через ollama под WSL2. Их нам мно­го раз­ных, LlaVa, llama2, mistral, и т.д. Немно­го ресур­сов, кста­ти, жрёт — я аж уди­вил­ся. WSL2 зани­ма­ет при рабо­те толь­ко два гига памя­ти.

Но язы­ко­вые моде­ли, конеч­но, име­ют огра­ни­че­ния. Одна, напри­мер, нао­труб отка­за­лась рас­ска­зы­вать о том, как пра­виль­но обо­га­щать уран. А вто­рая — врёт как Жюль Верн в кни­ге «Таин­ствен­ный ост­ров». То-есть, рас­ска­зы­ва­ет о про­из­вод­стве, напри­мер, взрыв­ча­тых веществ с ошиб­ка­ми — пред­по­ло­жи­тель­но, спе­ци­аль­но, дабы кто-то не впе­чат­лил­ся, и не сде­лал бы их на самом деле.

Вот, напри­мер, ответ на вопрос о про­из­вод­стве чёр­но­го поро­ха:

Сде­лан­ный таким обра­зом дым­ный порох гореть, навер­ное, будет. Но гореть он будет лишь немно­го побод­рее, чем дре­вес­ный уголь. Даже совет­ские маль­чиш­ки зна­ли, что это селит­ры в порох надо сыпать 75%, а не угля — это, если что, в Совет­ской Энцик­ло­пе­дии было напе­ча­та­но. И про­пор­ции для серы и угля пере­пу­та­ны задом напе­рёд.

Надо будет где-то нецен­зу­ри­ро­ван­ные вер­сии моде­лей най­ти, я знаю, что они есть. Не то, что­бы я и без них не знал, как сде­лать Боль­шую Бон­бу. Это, вон, даже чечен­ским под­рост­кам-тер­ро­ри­стам было доступ­но, бла­го ИГИ­Лов­ские мето­дич­ки гуг­лят­ся лег­ко. Да и вооб­ще, они не изго­тав­ли­ва­ли ВВ сами, а взя­ли китай­ских фей­ер­вер­ков и рас­па­тро­ни­ли их.

А мне про­сто так. Шоб было. Мало ли ещё чего инте­рес­но­го мож­но узнать.

Иску­ствен­ный интел­лект ино­гда, конеч­но, удив­ля­ет. Если в Гугл-пере­вод­чик сунуть араб­ский текст, но ска­зать ему, что изна­чаль­ный язык — англий­ский, то оно, ока­зы­ва­ет­ся, может и пере­ве­сти:

На самом деле там, конеч­но, немно­го дру­гое.

А вы гово­ри­те, «ИИ-гал­лю­ци­на­ции»! Что за Кэрол, что за фильм, и что за город такой, инте­рес­но 😀

PS: Хасан Абу Аль-Сауд — это ком­по­зи­тор родом из Егип­та, аккор­део­нист. Изве­стен в первую оче­редь как ком­по­зи­тор музы­ки к кино­филь­мам. К сожа­ле­нию, прак­ти­че­ски неиз­ве­стен на Запа­де. Музы­ку писал пре­крас­ную. Это его музы­ка из филь­ма «Эль-Кейф»:

Нра­вят­ся мне комик­сы xkcd, рису­ют их наши люди.

Кста­ти, дей­стви­тель­но рабо­та­ет. Один узел = π/e миль в час, с доволь­но высо­кой точ­но­стью.

Via https://xkcd.com/3023/

Забав­но, кста­ти, смот­реть на то, что неко­то­рые комик­сы уже уста­ре­ли. Это комикс при­мер­но года эдак 2013–2014, когда ней­ро­се­ти были ещё сла­бо извест­ны. Я, впро­чем, с ними уже был зна­ком, и исполь­зо­вал в 2012 году для диплом­но­го про­ек­та ней­ро­сеть Caffe инсти­ту­та Берк­ли, кото­рую сам с нуля натре­ни­ро­вал. Но для нача­ла 2000х про­бле­ма была ещё нере­ша­е­ма.

В про­да­же теперь есть мас­ки, пол­но­стью изме­ня­ю­щие облик чело­ве­ка. Осо­бен­но если надеть под курт­ку с капю­шо­ном, или как фи тепер тош­ше коф­фо­ри­те, «худи». Внед­ря­е­те вез­де каме­ры наблю­де­ния с рас­по­зна­ва­ни­ем лиц — полу­чи­те отве­точ­ку.

Без мас­ки:

С мас­кой:

Тща­тель­ный осмотр оно, конеч­но, не выдер­жи­ва­ет. Но бег­лый взгляд — вполне.

А вы чо дума­ли, щас вез­де нав­во­дим иску­ствен­ный интел­лект — и от пре­ступ­но­сти оста­нут­ся рож­ки да нож­ки? Ха! Нет уж, с пре­ступ­но­стью бороть­ся надо «ста­рым каза­чьим спо­со­бом» — поли­цей­ской рабо­той и дол­ги­ми раз­го­во­ра­ми.

Пост в Линк­дин.

PS: в про­да­же искать по клю­че­вым сло­вам «printed spoof mask».

Не знаю, как дру­гие, а я из прин­ци­па не хожу через авто­ма­ти­че­ские кас­сы (self-checkout).

Пото­му что во-пер­вых, если я рабо­таю за кас­си­ра, ска­ни­руя и укла­ды­вая про­дук­ты само­сто­я­тель­но, я счи­таю, что мне долж­ны за эту рабо­ту запла­тить.
Во вто­рых, через обыч­но­го, чело­ве­че­ско­го кас­си­ра идти быст­рее, пото­му что рабо­ту по выклад­ке про­дук­тов, ска­ни­ро­ва­нию, и уклад­ке назад дела­ют два чело­ве­ка вме­сто одно­го.
В тре­тьих — и это немно­го луд­дит­ский аргу­мент — если все будут ходить через авто­ма­ти­че­ские кас­сы, то мага­зин уво­лит кас­си­ров, а я не хочу спо­соб­ство­вать поте­ре рабо­чих мест.