Month: August 2017

Изви­ня­юсь, но мно­го­букв — дан­ный вопрос меня очень вол­ну­ет.

Делать про­гно­зы на буду­щее дело, вооб­ще, небла­го­дар­ное.

В целом, гово­рят, надо при­дер­жи­вать­ся сле­ду­ю­ще­го пра­ви­ла — в бли­жай­шие 5 лет будет всё то же самое, толь­ко луч­ше. А через 25 лет будет совсем не так. Пото­му что появит­ся что-то прин­ци­пи­аль­но новое, суще­ствен­но меня­ю­щее поря­док вещей.

Вот смеш­но сей­час, напри­мер, видеть науч­но-фан­та­сти­че­ские филь­мы 1970х годов. Пото­му что там опи­сы­ва­ет­ся буду­щее, а ком­пью­те­ры — какие-то убо­гие, с ЭЛТ-мони­то­ра­ми и интер­фей­сом хуже, чем у Нор­тон Ком­ман­де­ра.

Кадр из филь­ма «Alien» (1979 год):

Это мы-то с вами зна­ем, что в 2008 году ЭЛТ-мони­то­ры нача­ли выми­рать как дино­зав­ры, а дизайн интер­фей­сов достиг боль­ших высот. Но в 1979 это, конеч­но, было нико­му не оче­вид­но. Ещё XT-шки даже не появи­лись в про­да­же (хотя i8086 уже, вооб­ще-то, был). Да и любим мы фильм Alien, конеч­но, вовсе не за дизайн ком­пью­те­ров.

Но не суть.

Меня очень зани­ма­ет то, как изме­нит­ся наш мир, когда чело­век смо­жет нако­нец создать пол­ный искус­ствен­ный интел­лект. Я пред­по­ла­гаю, что ско­рее все­го, он будет создан на осно­ве очень боль­шой ней­рон­ной сети. И если так, то это зада­ча, в прин­ци­пе, чисто инже­нер­ная. Весь затык в том, что учи­ты­вая коли­че­ство ней­ро­нов (~90 мил­ли­ар­дов) и свя­зей (1.5E14) меж­ду ними в чело­ве­че­ском моз­гу, нам пона­до­бит­ся несколь­ко пета­байт (1 пета­байт — это 1,048,576 гига­байт) памя­ти и доста­точ­но быст­рый про­цес­сор, что­бы всё это обра­бо­тать. В прин­ци­пе, такие ком­пью­те­ры уже есть: китай­ский супер­ком­пью­тер Sunway TaihuLight обла­да­ет 1.3 пета­бай­та­ми памя­ти и про­из­во­ди­тель­но­стью в 93 петафлоп­са. К сожа­ле­нию, я не могу оце­нить, насколь­ко хва­тит этой про­из­во­ди­тель­но­сти — воз­мож­на ли рабо­та в реаль­ном вре­ме­ни.

В прин­ци­пе, систе­ма не обя­за­тель­но долж­на рабо­тать как чело­ве­че­ский мозг. Но КМК, бли­же все­го ока­жет­ся имен­но он. Поче­му? Пото­му что если это будет искус­ствен­ная ней­ро­сеть, её не про­грам­ми­ру­ют. Её имен­но что учат. А так как учить будут люди, то кто, как не чело­век, вырас­тет у таких роди­те­лей? Думаю, что систе­ма будет раз­ви­вать­ся имен­но как чело­ве­че­ский ребё­нок. Поэто­му к созда­нию это­го интел­лек­та при­дёт­ся при­вле­кать в первую оче­редь не сколь­ко про­грам­ми­стов, сколь­ко дет­ских пси­хо­ло­гов и учи­те­лей.

Самый глав­ный вопрос, на мой взгляд, в том, будет ли создан­ная систе­ма обла­дать созна­ни­ем, иден­тич­ным или близ­ким к чело­ве­че­ско­му. И если да, то что из это­го сле­ду­ет? А сле­до­вать из это­го может очень мно­гое. Напри­мер, если что-то обла­да­ет чело­ве­че­ским созна­ни­ем, то ведь будет пра­виль­но наде­лить это самое пра­ва­ми чело­ве­ка? Вопрос глу­бо­ко фило­соф­ский, на эту тему напи­са­ны тома, в том чис­ле и науч­ной фан­та­сти­ки (см. Филип Дик и сня­тый по моти­вам его кни­ги Bladerunner).

Я, напри­мер, счи­таю, что искус­ствен­но создан­ный чело­век, если он дума­ет, чув­ству­ет себя как чело­век — это такой же чело­век, как и мы с вами. И дол­жен обла­дать точ­но таки­ми же пра­ва­ми.

На этом месте боль­шин­ство миро­вых рели­гий навер­ня­ка спо­ткнут­ся о вопрос о суще­ство­ва­нии у искус­ствен­но­го чело­ве­ка души, созда­ния чело­ве­ка не Богом, и про­чих про­блем рели­ги­оз­ной дог­ма­ти­ки. Как неве­ру­ю­ще­му, мне про­бле­мы рели­гии, в прин­ци­пе, до лам­поч­ки, но инте­рес­но, есть ли на эту тему какая-то лите­ра­ту­ра, напи­сан­ная рели­ги­оз­ны­ми апо­ло­ге­та­ми. Было бы инте­рес­но озна­ко­мить­ся с их мыс­ля­ми на эту тему. Весь­ма воз­мож­но, что рели­гия и сама по себе рели­ги­оз­ная мысль, нако­нец-то ото­мрут за оче­вид­ной на дан­ном эта­пе раз­ви­тия бес­смыс­лен­но­стью.

Вто­рой боль­шой вопрос суще­ство­ва­ния искус­ствен­но­го интел­лек­та — а что, соб­ствен­но, будет с чело­ве­че­ством? Оче­вид­но, что на одном экзем­пля­ре искус­ствен­но­го интел­лек­та мы не оста­но­вим­ся. Они будут про­дол­жать созда­вать­ся. Их будет мно­го. Вопрос — будут ли созда­ния враж­деб­ны по отно­ше­нию к созда­те­лю? Огром­ный вопрос. В прин­ци­пе, я не вижу при­чин, по кото­рым искус­ствен­ный интел­лект дол­жен быть враж­де­бен нам. Вся враж­да меж­ду людь­ми, по сути сво­ей, сво­дит­ся к одно­му и тому же — борь­бе за ресур­сы. Недо­ста­точ­ность ресур­сов и жела­ние их заха­пать и есть глав­ная при­чи­на кон­флик­тов и войн. Ну, ещё, конеч­но, есть иди­от­ские при­чи­ны типа того, что какое-то пле­мя верит в немно­го непра­виль­но­го бога, но это абер­ра­ции, часто это мас­ки­ров­ка истин­ной цели — борь­бы за ресур­сы.

Какие такие ресур­сы могут быть настоль­ко инте­рес­ны искус­ствен­но­му интел­лек­ту, что­бы он опол­чил­ся на нас? Как-то мне не при­хо­дит в голо­ву ответ.

Соот­вет­ствен­но, если исхо­дить из того, что люди и ИИ могут мир­но сосу­ще­ство­вать, то ско­рее все­го, ИИ будет помо­гать нам решать осо­бо слож­ные зада­чи. Не исклю­че­но, что ИИ нач­нут при­вле­кать к управ­ле­нию миро­вой поли­ти­кой, и зем­ной шар под этим соусом, нако­нец-то вос­со­еди­нит­ся в одну семью и будет рабо­тать на общее бла­го. Как анар­хи­сту, мне бы это­го хоте­лось. Полу­чит­ся эда­кий Мир Полу­дня. Раз­ве это пло­хо?

Воз­мо­жен и немно­го дру­гой, дисто­пи­че­ский вари­ант. ИИ пол­но­стью берёт на себя всю рабо­ту и раз­ви­тие. Допу­стим даже, что ИИ не будет враж­де­бен людям, и не хочет уни­что­жить их за нена­доб­но­стью. Чем будут заня­ты люди? Тут уже как раз всё зави­сит не от того, как себя пове­дёт ИИ, а от самих нас. Чем бы ты занял­ся, если бы тебе не надо было рабо­тать, что­бы обес­пе­чить себя? Когда вся­кая изоб­ре­та­тель­ская и науч­ная дея­тель­ность поте­ря­ла свой смысл — ей зани­ма­ет­ся искус­ствен­ный интел­лект? Ты бы занял­ся искус­ством, да толь­ко у ИИ всё рав­но слон потол­ще — и музы­ку он может писать луч­ше тебя, и кар­ти­ны рисо­вать.

Я вот даже не знаю. Я бы, навер­ное, хоб­би занял­ся. Конеч­но, это бес­смыс­лен­но — но хоб­би это изна­чаль­но бес­смыс­лен­ное заня­тие.

А кто-то может начать ухо­дить от такой реаль­но­сти. Вари­ант самый про­стой и баналь­ный — упо­треб­лять нар­ко­ти­ки. А учи­ты­вая про­гресс в обла­сти вир­ту­аль­ной реаль­но­сти, воз­мож­но, что вме­сто Мира Полу­дня у нас полу­чит­ся Мир Мат­ри­цы. Где люди нахо­дят­ся под веч­ным кай­фом в симу­ли­ру­е­мой реаль­но­сти, реаль­но­сти, кото­рую они созда­ют себе сами. В этой реаль­но­сти все близ­кие чело­ве­ку люди, кото­рых он поте­рял, весе­лы и живы (тут ну про­сто очень боль­шой при­вет пере­да­ёт Ста­ни­слав Лем с его «Соля­ри­сом»). Где всё пре­крас­но. Где дей­ствия чело­ве­ка не лише­ны смыс­ла. Воз­мож­но, ИИ к тому вре­ме­ни побе­дит все болез­ни и ста­ре­ние, и таким обра­зом люди будут жить веч­но в этой иде­а­ли­зи­ро­ван­ной реаль­но­сти.

Чем дан­ная пер­спек­ти­ва отли­ча­ет­ся от опи­са­ния попа­да­ния в рай в ислам­ской и хри­сти­ан­ской лите­ра­ту­ре? Э… да, в‑об­щем-то, ничем. Аминь.

Похо­же, нача­лось!

NASA опуб­ли­ко­ва­ло первую вакан­сию «Сотруд­ни­ка по обо­роне пла­нет» 🙂

https://www.usajobs.gov/GetJob/ViewDetails/474414000

А если серьёз­но, то чело­век будет ответ­стве­нен за то, что­бы на кос­ми­че­ских аппа­ра­тах, запус­ка­е­мых на дру­гие пла­не­ты, не была при­не­се­на зем­ная жизнь в виде тех же бак­те­рий.

*это игра такая ком­пью­тер­ная
https://ru.wikipedia.org/wiki/XCOM:_Enemy_Unknown

В горо­де Бир­мин­гем, где я живу, актив­но идут про­цес­сы джен­три­фи­ка­ции. То-есть, в рай­о­ны с убо­ги­ми халу­па­ми засе­ля­ют­ся хип­сте­ры, гомо­се­ки, и про­чие яппи с более высо­ки­ми дохо­да­ми. Халу­пы пере­стра­и­ва­ют­ся, рай­он улуч­ша­ет­ся, и жить тем, кто там жил до это­го — т.е. лобо­тря­сам и без­дель­ни­кам — ста­но­вит­ся не по кар­ма­ну, и они отту­да уез­жа­ют. Рай­он ста­но­вит­ся ещё луч­ше, т.к. с отъ­ез­дом лобо­тря­сов сни­жа­ет­ся пре­ступ­ность, и т.д.

Хоро­шо это? На мой взгляд, это пре­крас­но. Центр Бир­мин­ге­ма в своё вре­мя был очень акти­вен, там реаль­но жили люди и бур­ли­ла жизнь. А потом в нём про­изо­шло то, что про­изо­шло прак­ти­че­ски со все­ми круп­ны­ми горо­да­ми США — из-за ухуд­ше­ния эко­но­ми­че­ско­го кли­ма­та биз­не­сы ста­ли закры­вать­ся, народ стал раз­бе­гать­ся по при­го­ро­дам, на осво­бо­див­ше­е­ся место ста­ли засе­лять­ся бед­ные чер­но­ко­жие, что в оче­ред­ной раз под­стег­ну­ло эми­гра­цию бога­то­го бело­го насе­ле­ния в при­го­ро­ды, и так далее. До недав­не­го вре­ме­ни же это было место, где после наступ­ле­ния тем­но­ты очень не хоте­лось выхо­дить из запер­той маши­ны, и было очень неуют­но без писто­ле­та. Коро­че, https://en.wikipedia.org/wiki/White_flight

Теперь же, без­услов­но, не вез­де, но в неко­то­рых местах ты чув­ству­ешь себя в без­опас­но­сти даже в пол­ночь, стро­ят­ся доро­гие квар­ти­ры, откры­ва­ют­ся ресто­ра­ны, мага­зи­ны, раз­ру­ху пере­стра­и­ва­ют в нор­маль­ный вид — коро­че, жизнь нала­жи­ва­ет­ся.

Так вот выяс­ня­ет­ся, что с точ­ки зре­ния боль­шин­ства кан­ди­да­тов в мэры Бир­мин­ге­ма джен­три­фи­ка­ция — это чудо­вищ­но. Пото­му что при этом вынуж­де­ны уез­жать милые их серд­цу лобо­тря­сы. Кото­рые голо­су­ют так, как им надо. Пообе­щай им мор­ков­ку — и они голос­нут. А гомо­се­ки с хип­сте­ра­ми не пой­дут голо­со­вать за мор­ков­ку. Им реаль­ные улуч­ше­ния пред­ла­гать надо, а не оче­ред­ную подач­ку.

Кан­ди­да­ты пла­чут — мол, они тут уже дол­го жили, а теперь их отту­да выбра­сы­ва­ют. При этом поче­му-то никто не дума­ет о том, что уез­жать они вынуж­де­ны не пото­му, что они чер­но­ко­жие, а пото­му что у них нет денег. После чего хочет­ся спро­сить, а чего они сде­ла­ли для того, что­бы у них появи­лись день­ги? А? Как «ниче­го»? Вот имен­но, что ниче­го. Имен­но такие граж­дане как они, дове­ли Бир­мин­гем до преды­ду­ще­го его состо­я­ния, где чер­но­ко­жие дедуш­ки и бабуш­ки жили в диком сра­че. И не хип­сте­ры тому виной.