ИИ и ответственность

Крайне инте­рес­ная ста­тья Брю­са наше­го Шнай­е­ра! С огром­ным инте­ре­сом про­чи­та­ла.

Все мы уже виде­ли, что, когда вво­дишь запрос в одном из основ­ных поис­ко­ви­ков, свер­ху выле­за­ет крат­кая справ­ка по теме, состав­лен­ная ИИ. Напри­мер:

Немец­кий суд поста­но­вил, что, если инфор­ма­ция в такой ИИ-справ­ке невер­на — а с ИИ это слу­ча­ет­ся сплошь и рядом, — Гугель несёт за неё ответ­ствен­ность. И тут полу­ча­ет­ся инте­рес­ный пра­во­вой казус.

Вот поче­му, если на пер­вой стра­ни­це сай­та Нью-Йорк Таймс напи­са­но, что Мишель Оба­ма — на самом деле пере­оде­тый мужЫк, то Нью-Йорк Таймс мож­но при­влечь к ответ­ствен­но­сти за кле­ве­ту, а если то же самое напи­шет Вася Пуп­кин в Фейс­бу­ке, то сам Фейс­бук при­влечь к ответ­ствен­но­сти уже нель­зя?

А пото­му, что меж­ду эти­ми слу­ча­я­ми есть суще­ствен­ная пра­во­вая раз­ни­ца: Нью-Йорк Таймс явля­ет­ся изда­те­лем инфор­ма­ции, а Фейс­бук — лишь тех­ни­че­ским посред­ни­ком, на плат­фор­ме кото­ро­го её раз­ме­стил посто­рон­ний чело­век.

Ров­но так же нель­зя при­влечь к ответ­ствен­но­сти теле­фон­ную ком­па­нию за то, что её свя­зью поль­зо­ва­лись какие-нибудь бар­ма­леи-тер­ро­ри­сты. Теле­фон­ная ком­па­ния пере­да­ёт раз­го­вор, но не сочи­ня­ет его содер­жа­ние.

Так вот, реше­ние немец­ко­го суда пере­во­дит Гугл из раз­ря­да тех­ни­че­ских посред­ни­ков в изда­те­ли. Напи­сан­ное его ИИ суд посчи­тал уже выска­зы­ва­ни­ем самой ком­па­нии — резуль­та­том её соб­ствен­ной ком­мер­че­ской дея­тель­но­сти, — а не инфор­ма­ци­ей, опуб­ли­ко­ван­ной непри­част­ны­ми посто­рон­ни­ми людь­ми.

В Соеди­нён­ных Шта­тах эта область регу­ли­ру­ет­ся преж­де все­го сек­ци­ей 230 Зако­на о При­стой­но­сти в Ком­му­ни­ка­ци­ях 1996 года (Communications Decency Act). В ней гово­рит­ся, что постав­щик интер­ак­тив­но­го ком­пью­тер­но­го сер­ви­са не дол­жен счи­тать­ся изда­те­лем или авто­ром инфор­ма­ции, предо­став­лен­ной дру­гим созда­те­лем кон­тен­та.

Но закон этот был напи­сан уже трид­цать лет назад и при­ме­нял­ся к тех­но­ло­ги­ям тех лет. С тех пор мно­го воды утек­ло. Тот же Фейс­бук теперь не про­сто пока­зы­ва­ет тебе посты граж­дан в обрат­ном хро­но­ло­ги­че­ском поряд­ке, а твор­че­ски их обра­ба­ты­ва­ет: реша­ет, что имен­но тебе под­су­нуть, в какой после­до­ва­тель­но­сти, и сколь­ко раз под­ряд заста­вить тебя это уви­деть.

Поэто­му мно­гие счи­та­ют, что зако­ны трид­ца­ти­лет­ней дав­но­сти к совре­мен­ным соци­аль­ным сетям в их нынеш­нем виде уже не вполне при­ме­ни­мы и нуж­да­ют­ся в пере­ра­бот­ке. Дру­гие, прав­да, воз­ра­жа­ют, что без сек­ции 230 совре­мен­ный интер­нет в его нынеш­нем виде вооб­ще не смог бы суще­ство­вать.

А теперь в этот и без того замуд­рён­ный салат щед­рой рукой нали­ли заправ­ки в виде систем ИИ.

В отли­чие от обыч­но­го поис­ко­ви­ка, кото­рый пока­зы­ва­ет ссыл­ки или цити­ру­ет чужие стра­ни­цы, ИИ же не про­сто пере­да­ёт чужой текст. Он пере­ра­ба­ты­ва­ет инфор­ма­цию, пере­фор­му­ли­ру­ет её и созда­ёт новый ответ. То есть с точ­ки зре­ния зако­на зани­ма­ет­ся чем-то подо­зри­тель­но похо­жим на редак­тор­скую и изда­тель­скую дея­тель­ность.

В общем, авто­ном­ный ИИ в интер­не­тах ждёт инте­рес­ное пра­во­вое буду­щее. Если суды про­дол­жат при­зна­вать ком­па­нии ответ­ствен­ны­ми за ошиб­ки при­ме­ня­е­мых ими систем ИИ — что, на мой взгляд, вполне спра­вед­ли­во, — то мно­гие нынеш­ние спо­со­бы при­ме­не­ния ИИ могут ока­зать­ся попро­сту эко­но­ми­че­ски нежиз­не­спо­соб­ны­ми.

Не обя­за­тель­но все чат-боты закон­чат­ся, тол­ком даже не начав­шись. Но ком­па­ни­ям, воз­мож­но, при­дёт­ся либо ради­каль­но повы­шать их надёж­ность, либо отве­чать за сло­ва и дей­ствия сво­их элек­трон­ных аген­тов ров­но так же, как они отве­ча­ют за сло­ва и дей­ствия аген­тов чело­ве­че­ских.

На поро­ге новых зако­нов сто­им! Сле­ди­те за собы­ти­я­ми — будет инте­рес­но.

Via: Bruce Schneier, “AI and Liability”
https://www.schneier.com/blog/archives/2026/06/ai-and-liability.html