Ну зашибись теперь

Нача­ли появ­лять­ся пер­вые жерт­вы иску­ствен­но­го интел­лек­та. Сла­ва Аскле­пию, не здо­ро­вьем постра­да­ли, но кошель­ком. Граж­дане жули­ки исполь­зо­ва­ли ЧатЖПТ и подоб­ное для напи­са­ния «книг». Далее они шлё­па­ли на облож­ку имя извест­но­го авто­ра и про­да­ва­ли на Ама­зоне. Даже инте­рес­но ста­ло, сколь­ко эти гни­ды денег зара­бо­та­ли. В ответ на изна­чаль­ный запрос авто­ра в Ама­зон не было сде­ла­но… ниче­го — писать и про­да­вать кни­ги может кто угод­но, а на имя авто­ра не рас­про­стра­ня­ет­ся копи­райт.

Сла­ва Юсти­ции, но посте­пен­но Ама­зон всё же при­шёл в чув­ство, и кни­ги уда­лил. Но оса­до­чек остал­ся… гм. В прин­ци­пе, конеч­но, ниче­го ново­го — под­дел­ки под извест­ных авто­ров были все­гда. И кар­ти­ны писа­ли «под Репи­на», и кни­ги-пасти­ши писа­ли тоже. Но исклю­чи­тель­ная лег­кость, кото­рую дают совре­мен­ные систе­мы ИИ, выво­дит дан­ное явле­ние на совер­шен­но новый уро­вень.

via Ars Technica

Как я уже мно­го раз гово­рил, юри­ди­че­ские про­бле­мы с систе­ма­ми иску­ствен­но­го интел­лек­та надо решать СРОЧНО, и ПРЯМО СЕЙЧАС. Потом будет позд­но.

Микрософтовская болталка

Я, при­знать­ся, ожи­дал луч­ше­го. Она даёт фак­ти­че­ски невер­ные отве­ты и рабо­та­ет доль­ше, чем ЧатЖПТ. Сна­ча­ла ищет отве­ты в сво­их бин­гах, а потом резю­ми­ру­ет най­ден­ное. Вот, вопрос из тео­рии музы­ки — в чём раз­ни­ца меж­ду нон­ак­кор­да­ми C9 и Cadd9:

Бол­тал­ка попы­та­лась меня уве­рить, что в Cadd9 тоже есть сеп­ти­ма, толь­ко она боль­шая (B), а не малая (Bb). А вот шЫш, не было там нико­гда сеп­ти­мы. Cadd9 — это очень кра­си­вый аккорд с добав­лен­ной ноной (D).

При этом оно даёт ссыл­ки с доку­мен­та­ми, в кото­рых англий­ским по бело­му напи­са­но, что сеп­ти­мы там нет. Я ему напи­сал, что оно непра­во. Изви­ни­лось.

Цирк с коня­ми на ней­рон­ной тяге.

Про законы робототехники

У Айзе­ка Ази­мо­ва мно­го напи­са­но про то, что три зако­на робо­то­тех­ни­ки — это заме­ча­тель­но, но даже такие три про­стые пра­ви­ла мож­но интер­пре­ти­ро­вать по-раз­но­му. В одном из рас­ска­зов, не вспом­ню сей­час в каком, закон пер­вый, т.е. «робот не может при­чи­нить вред чело­ве­ку или сво­им без­дей­стви­ем допу­стить, что­бы чело­ве­ку был при­чи­нён вред» — был интер­пре­ти­ро­ван робо­том как «людей надо неж­но свя­зать и запе­реть, что­бы они не при­чи­ни­ли себе вред». Что он неза­мед­ли­тель­но и сде­лал.

А ныне ВВС США сде­ла­ли симу­ля­цию дро­на, управ­ля­е­мо­го ИИ, кото­рый уни­что­жал систе­мы вра­же­ской ПВО. Преж­де чем отбом­бить­ся, ИИ запра­ши­вал раз­ре­ше­ния у опе­ра­то­ра, кото­рый мог запре­тить уни­что­же­ние кон­крет­но это­го рас­чё­та ПВО. Нью­анс в том, что за каж­дую уни­что­жен­ную систе­му ПВО иску­ствен­но­му интел­лек­ту начис­ля­лись очки. Кон­чи­лось тем, что ИИ отбом­бил­ся… по опе­ра­то­ру дро­на, что­бы тот не выпенд­ри­вал­ся, и не мешал ИИ наби­рать эти самые очки.

https://www.theregister.com/2023/06/02/ai_drone_simulation/

Карманный Скайнет

По навод­ке ув. ny-quant. На видео­кар­те я запу­стить не смог, пото­му что у меня лап­ки. С фор­ком GPT4AllGPU поче­му-то надо при­став­лять отдель­ную модель LLaMa, кото­рую надо ска­чи­вать само­му, и я не смог разо­брать­ся, какую. Поэто­му запу­стил на про­цес­со­ре.

С тру­дом, надо ска­зать, запу­стил. У меня восемь пень­ков i7 деся­то­го поко­ле­ния и 64 гек­та­ра памя­ти:

Ответ на про­стой вопрос (как луч­ше все­го гла­дить кош­ку) зани­ма­ет мину­ту-две. А вот кре­а­тив­ная дея­тель­ность (напи­ши мне поэ­му про сисад­ми­на) уже йок, может пили­кать минут десять и боль­ше.

Запус­каю через тре­тий питон внут­ри WSL2.

Уста­но­вить:

pip3 install nomic

Потом в интер­ак­тив­ном python3:

from nomic.gpt4all import GPT4All (в пер­вый раз зани­ма­ет очень мно­го вре­ме­ни, ска­чи­ва­ет натре­ни­ро­ван­ную модель)
m = GPT4All()
m.open()
m.prompt(«Write me a short story about a kitten»)

Я нари­со­вал про­стей­ший код что­бы общать­ся. Увы, грё­ба­ное фор­ма­ти­ро­ва­ние навер­ня­ка похо­ро­нит отсту­пы:

#!/usr/bin/python3
from nomic.gpt4all import GPT4All
m=GPT4All()
m.open()
while(True):
prompt = input("Please ask me something or say STOP to quit: ")
if (prompt == "STOP"):
break
else:
response = m.prompt(prompt)
print(response)

Поиг­ра­юсь, но ресур­со­ём­кость, конеч­но, ахо­вая.

Update: барах­ло пол­ное. ЧатЖПТ хотя бы пра­виль­но на про­стые вопро­сы отве­чал. Этот даже не зна­ет, как запу­стить внеш­нюю про­грам­му с ука­за­ни­ем пара­мет­ров из скрип­та на Пау­эр­Шел­ле.

Гугл сломался?

У меня одно­го гуг­ло­пе­ре­вод­чик с англий­ско­го на рус­ский в послед­нее вре­мя выда­ёт какие-то сепуль­ки и кле­е­гла­зые хля­бо­тря­сы?

А Яндекс-пере­вод­чик нор­маль­но:

Пере­во­дил как раз части Соуэл­ла для ран­не­го поста, обра­тил вни­ма­ние.

За что боролись — на то и напоролись

То, что собы­тия будут раз­ви­вать­ся имен­но так, я уже не раз пред­ска­зы­вал. Две ново­сти, что харак­тер­но — от одно­го источ­ни­ка (Рой­тер), даже сами ста­тьи один и тот же чело­век писал.

Хоти­те, что­бы нани­ма­тель пла­тил более высо­кую зар­пла­ту? Хоро­шо, толь­ко про­верь­те сна­ча­ла, а дей­стви­тель­но ли вы так неза­ме­ни­мы на сво­ей рабо­те. Тех же ресто­ра­нов само­об­слу­жи­ва­ния ста­но­вит­ся всё боль­ше — зар­пла­ту там пла­тят дей­стви­тель­но хоро­шую, толь­ко рабо­та­ют там не два­дцать чело­век, а пять — три пова­ра и два кас­си­ра.

А в мага­зи­нах всё чаще попа­да­ют­ся кас­сы само­об­слу­жи­ва­ния — в кото­рые я не хожу из прин­ци­па, так как моё согла­сие с их исполь­зо­ва­ни­ем пред­по­ла­га­ет уволь­не­ние людей.

Таким обра­зом, из рабо­ты выдав­ли­ва­ют­ся как раз те, у кого с ней и так всё не очень хоро­шо — нет обра­зо­ва­ния, нет навы­ков, нет ремес­ла. И что с ними пред­ла­га­ет­ся делать? Пла­тить им вел­фер, что ли, сиречь, ББД? При­дёт­ся, види­мо, так. Тех­но­крат Энд­рю Йен имен­но такое и пред­ла­га­ет, а финан­си­ро­вать ББД пред­ла­га­ет из спе­ци­аль­но­го нало­га, соби­ра­е­мо­го на авто­ма­ти­за­цию, из-за кото­рой уволь­ня­ют людей. Не ска­жу, что я вижу какую-то в этом неспра­вед­ли­вость, толь­ко не уве­рен я в эко­но­ми­че­ской и соци­аль­ной целе­со­об­раз­но­сти, да и вооб­ще воз­мож­но­сти дан­но­го дела.

Первый пошёл

Желѣзныя​маши­ны напа­да­ютъ на людей. Пер­вая жерт­ва про­из­во­ла полу­про­вод­ни­ковъ.

«Эко­ло­ги­че­ски созна­тель­ный» бель­ги­ец покон­чил жизнь само­убий­ством после дли­тель­ных раз­го­во­ров с чат-ботом Эли­зой, исполь­зу­ю­щей тех­но­ло­гию ChatGPT. Запи­си их раз­го­во­ров гово­рят о том, что маши­на убе­ди­ла его покон­чить с собой ради того, что­бы оста­но­вить гло­баль­ное изме­не­ние кли­ма­та.

Ори­ги­нал (en français).

Про­тёр шары и пере­про­ве­рил дату пуб­ли­ка­ции — нет, не пер­во­ап­рель­ский при­кол.

Про оптимистов

Нем­ца спра­ши­ва­ют: в чём раз­ни­ца меж­ду опти­ми­ста­ми и пес­си­ми­ста­ми в Гер­ма­нии?

–В 1944 году немец­кие опти­ми­сты учи­ли англий­ский, а пес­си­ми­сты рус­ский.

Сорян, наве­я­ло все­ми эти­ми пись­ма­ми за то, что­бы отклю­чить и забе­то­ни­ро­вать систе­мы ИИ. В наше вре­мя опти­ми­сты учат как исполь­зо­вать иску­ствен­ный интел­лект, а пес­си­ми­сты гото­вят­ся к втор­же­нию Скай­не­та. И тоже ста­но­вит­ся оче­вид­но, как нем­цам в 1944 году, что доста­точ­но мощ­ный ИИ поме­ня­ет всю нашу жизнь, вопрос толь­ко, в какую сто­ро­ну. И да, эти­че­ские вопро­сы дей­стви­тель­но надо решать уже пря­мо сей­час.

Адобе Светлячок

Ув. dibr выска­зал­ся, мол, в послед­нее вре­мя систе­мы ИИ вдруг полез­ли как чор­ти­ки из таба­кер­ки. Выка­ти­ли DALL‑E и как пло­ти­ну про­рва­ло — тут же появил­ся Миджёр­ни, Стей­бл Диф­фью­жен и про­чая. Появил­ся ChatGPT и ОПА — тут же выско­чил Мик­ро­софт со сво­им робо­том-гово­рил­кой, Гугл под­су­е­тил­ся.

И это дей­стви­тель­но так. По-мое­му, внут­ри тех­но­ло­ги­че­ских ком­па­ний назре­ла какая-то кри­ти­че­ская мас­са нара­бо­ток на ней­рон­ных сетях, сей­час она рва­ну­ла и мы наблю­да­ем этот ядер­ный взрыв и раз­лёт оскол­ков.

И гово­рил­ки теперь могут дей­стви­тель­но мно­гое. Напри­мер, у меня был вопрос в обла­сти IT как сде­лать одну вещь на Пау­эр­Шел­ле. Я дол­го и без­успеш­но искал ответ в интер­не­тах, и никак не мог най­ти. Сотруд­ник надо­умил — «спро­си у ChatGPT!» И дей­стви­тель­но, спро­сил — и мне тут же дали 100% рабо­чее реше­ние. Робот-гово­рил­ка во мно­го раз кру­че поис­ко­вых систем.

Что до нали­чия тут како­го-то разу­ма… доро­гие мои чита­те­ли, я не вижу тут разу­ма. Есть такая вещь — цепь Мар­ко­ва. Её при­ду­мал выда­ю­щий­ся рус­ский мате­ма­тик Андрей Андре­евич Мар­ков-стар­ший. Что это такое? Ну, дета­ли мож­но най­ти хоть в Вики­пе­дии, но вот на про­стом при­ме­ре мож­но взять любое сло­во. После­до­ва­тель­ность букв в нём неслу­чай­на. Напри­мер, после соглас­ных чаще идёт глас­ная, чем соглас­ная. И все эти веро­ят­но­сти мож­но вычис­лить, после чего напи­сать гене­ра­тор слов, где веро­ят­ность воз­ник­но­ве­ния одной бук­вы после дру­гой будет сов­па­дать с наши­ми изыс­ка­ни­я­ми. К сло­ву ска­жу, что цепи Мар­ко­ва широ­ко упо­треб­ля­ют­ся для взло­ма паро­лей, так как паро­ли, создан­ные чело­ве­ком, тоже под­чи­ня­ют­ся опре­де­лён­ным зако­нам.

Все эти робо­ты-гово­рил­ки — это МЕГА-натре­ни­ро­ван­ные МЕГА-слож­ные МЕГА-гене­ра­то­ры МЕГА-цепей Мар­ко­ва, их более рас­ши­рен­но­го вари­ан­та, в кото­рых не бук­вы, а сло­ва зави­сят друг от дру­га, от их после­до­ва­тель­но­сти в пред­ло­же­нии, и от дру­гих пред­ло­же­ний. Это, без­услов­но, очень кру­то, и дей­стви­тель­но заслу­жи­ва­ет похвал, но это не дела­ет систе­му разум­ной. Во вся­ком слу­чае, ПОКА, на теку­щий момент.

Ска­жу толь­ко, что на мой взгляд, нали­чие разу­ма пред­по­ла­га­ет нали­чие созна­ния, но что такое созна­ние, опре­де­ле­ние я дать уже не возь­мусь, кро­ме как через рево­лю­ци­он­ное чутьё, а по-дру­го­му я не дорос ишшо.

Всё это была при­сказ­ка.

Хотел я поде­лить­ся ещё одним инстру­мен­том для созда­ния «кар­ти­нок из тек­ста», Адо­бе Файр­флай (Свет­ля­чок), кото­рый сей­час про­хо­дит бета-тести­ро­ва­ние. Так как я рисо­вать не умею от сло­ва «совсем», к моим кри­вым рукам при­хо­дит­ся при­став­лять робо­та, нехай рису­ет за меня.

Ска­жу вот что. Как насто­я­ще­му худож­ни­ку, так и худож­ни­ку, воору­жён­но­му ИИ, про­ще все­го рисо­вать то, чего нет. Как гла­сит древ­няя леген­да, рисо­вать демо­на про­ще, чем соба­ку — ибо демон есть суще­ство вооб­ра­жа­е­мое, каким ты его видишь — таким он и есть. А как выгля­дят соба­ки, зна­ют все, и нари­со­вать её так, что­бы было понят­но, что это соба­ка — уже непро­сто. Даёшь зада­чу ИИ нари­со­вать ино­пла­нет­ный корабль — оно рису­ет. И хрен при­де­рёшь­ся, ты что ли, сам его видел, что­бы ска­зать, что «непо­хо­же»? А вот дать зада­чу рисо­вать что есть, осо­бен­но людей — и на выхо­де полу­ча­ет­ся настоль­ко забо­ри­стая пур­га, что ника­ких гри­бов с кета­ми­ном не надо.

Так вот, забе­гая впе­рёд, ска­жу, что Адо­бе Свет­ляч­ку это нако­нец-то более-менее уда­лось — реа­ли­стич­но рисо­вать то, что есть. В отли­чие от дру­гих систем, через жопу рису­ю­щих чело­ве­ков с тре­мя нога­ми, шестью рука­ми, и три­на­дца­тью паль­ца­ми на каж­дой руке, Свет­ля­чок рису­ет более-менее нор­маль­но. Более того, мно­гие нетлен­ки, созда­ва­е­мые этой систе­мой, весь­ма фото­ре­а­ли­стич­ны. Не буду голо­слов­ным.

«Кра­си­вая улы­ба­ю­ща­я­ся ази­ат­ская моло­дая жен­щи­на, оде­тая в пла­тье в крас­ную кле­точ­ку, соби­ра­ет све­тя­щи­е­ся цве­ты на зака­те в лесу»:

Через откро­вен­ную жопь тут сде­ла­на толь­ко одна деталь — рука­ва на пла­тье не сов­па­да­ют, они раз­ные. И ворот­ник какой-то стран­ный. Но вы погля­ди­те на этот свет! И как хоро­шо он пока­зан — как закат­ный, так и свет от цве­тов! Я впе­чат­лён, серьёз­но.

И ещё одна. Вот тут уже есть серьёз­ные арте­фак­ты — паль­цы, арте­фак­ты на пла­тье. Но очень недур­но, на мой взгляд. Если не с колёс пуб­ли­ко­вать, а хотя бы дора­бо­тать в Шопе — вполне норм!

Свет отра­бо­тан отлич­но. Реко­мен­дую.

Кро­ме того, когда Свет­ляч­ка нако­нец допи­лят, его кар­тин­ки с гаран­ти­ей не будут нару­шать ничей копи­райт — Адо­бе кля­нёт­ся-божит­ся, что тре­ни­ро­вал ней­ро­се­ти на сво­их соб­ствен­ных сто­ко­вых кар­тин­ках (кото­рых у него до пупа) и на кар­тин­ках с откры­тым копи­рай­том. Учи­ты­вая нали­чие уже суще­ству­ю­щи­ей тол­пы судеб­ных исков, кому-то может быть кри­тич­но.