Alexander Vitkovski (alev_biz) wrote,
Alexander Vitkovski
alev_biz

Кто будет виноват, если робот, управляемый «силой мысли» уронит ребёнка?

Этика не ждёт: почему безопасность и эффективность нейропротезов будущего начинается сегодня. В новой статье, опубликованной в Science ведущие учёные отрасли обозначили принципы, которые необходимо учитывать при разработках инвазивных нейрокомпьютерных интерфейсов.

Кто будет виноват, если робот, управляемый «силой мысли» уронит ребёнка?

Нейропротезы — медицинские импланты, вживляемые в нервную систему. Их основная цель сегодня – восстановление двигательных или чувствительных функций у людей, страдающих нарушениями связи с внешним миром. Популярный и самый первый по времени пример – кохлеарные импланты. Эти устройства имитируют работу системы слуха за счёт перевода звуков в сигнал специальным внешним микрофоном и последующего стимулирования слухового нерва. Также нейропротезы – единственно возможное средство связи с окружающими для людей, подвергшихся «синдрому запертого человека»: полному параличу, включая мышцы глаз. Возможности, открываемые инвазивными нейрокомпьютерными интерфейсами (НКИ) служат экспоненциальному развитию отрасли: ожидается, что к 2025 году глобальный рынок медицинских нейроимплантов достигнет 54.28 миллиардов долларов. Кроме того, есть все основания полагать, что нейропротезы вскоре станут частью нашей повседневности не только за счёт их стремительного внедрения для улучшения качества жизни физически ограниченных пациентов, но и в результате применения инвазивных НКИ для целей здоровых людей, например – в игровой индустрии.



Шагнём на некоторое время вперёд: рассмотрим будущее, технически возможное уже сегодня. Например, у вас есть робот — домашний помощник, управление которым возможно по Wi-Fi с чипа, соединённого напрямую с вашей нервной системой. Это устройство, помимо прочего, также собирает данные о вашем состоянии и передаёт их врачу через интернет. Ещё оно следит за уровнем сахара в крови и поддерживает его на приемлемом уровне. Так, кстати, и функционирует большинство современных нейропротезов: они собирают данные и автономно поддерживают состояние пациентов. Но для нашей истории вовсе не обязательно предполагать тяжёлые нарушения здоровья. Неважно, заняты вы работой или неспособны двигаться, исход следующий: робот-прислуга нянчит вашего ребёнка. И роняет.

На ком будет ответственность за причинение вреда? Хотели ли вы – сознательно или несознательно – уронить ребёнка? Была это ваша оплошность по невнимательности или ошибка робота? Как сравнить ответственность человека с нейропротезом и человека, случайно совершившего тот же проступок своими руками? Лежит ли ответственность за такие сбои на производителях? Или на учёных? Доверяя ребенка роботу, осознавали ли вы, что устройство может выйти из строя? Возможно, сигнал импланта сказался на вашей нервной деятельности, что и привело к такому результату? Возможно, ваша система связи с роботом была нарушена злоумышленниками, произведшими взлом через беспроводную сеть?..

Как бы ни напоминали эти вопросы очередной киберпанк блокбастер, ведущие ученые (например, пионер в сфере нейропротезирования Эберхард Фетц) уже не в первый раз обращают внимание на этические аспекты своей деятельности. Несмотря на то, что современное состояние отрасли описывается небольшими объемами передачи информации и довольно ограниченным функционалом управляемых нервной системой приборов, в новой статье из Science учёные подчёркивают, что необходимо учитывать ключевые этические принципы в разработке нейропротезов уже сегодня. Это связано с потребностью сочетать меры безопасности с практичностью приборов и длинной жизни батареи. Кроме того, как утверждают авторы другой статьи — подробного обзора угроз, связанных с инвазивными НКИ – менеджмент социального отношения к этим устройствам нужен для того, чтобы не преувеличить ни риски, ни надежды и в то же время обеспечить развитие ожиданий, соответствующее динамике отрасли. Важнейшая цель — не допустить громких провалов, связанных, например, с сохранностью личных данных пациентов. Такие события безусловно подорвут доверие к нейропротезам, помешают развитию технологий и лишат помощи тех, кто нуждается в нейроимплантах больше всего – физически ограниченных людей, интересы которых в принципе слабо представлены в политических повестках. Намереваясь обеспечить безопасность и эффективность внедрения инвазивных НКИ в повседневную жизнь, учёные работают и над общими этическими принципами отрасли. Ключевые направления здесь: ответственность, безопасность и ожидания.

Как было показано на примере с ребёнком, в случае полуавтономного робота, управляемого активностью нейронов человека, грань распределения ответсвенности становится ещё более размытой, чем во времена классиков, и не мечтавших об НКИ. Действительно, многие процессы нервной системы остаются далеко за пределами осознания человеком. Вопрос о причинах этих процессов и, соответсвенно, об ответсвенности за них, о свободе воли – почти недостижим для формальных норм права. Однако, ответственность за причинённый в результате использования робота вред все же может быть определена. В статье из Science, авторы выделяют три пути. Во-первых, вето, встроенное в систему нейропротеза, делает возможным возложение отвественности на человека, вовремя не воспользовавшегося остановкой робота. Здесь можно провести аналогию с водителем, не нажавшим на тормоз в нужный момент. Во-вторых, разумно обвинить в халатности человека, использующего заведомо плохо управляемого робота для активностей, связанных с возможным причинением вреда, как, например, транспортировка младенца. В-третьих, производители потенциально опасных устройств, несомненно, несут ответственность за дизайн, производство и маркетинг продукта. Последнее включает в себя информирование потребителей о возможных рисках.

Здесь стоит вспомнить о безопасности. Если говорить о сохранности данных, то один из ключевых моментов опять же — информирование пользователей нейропротезов обо всей собираемой устройством личной информации, мерах ее защиты и возможных рисках. Стоит ли упоминать, что речь идёт об активности нейронов. В контексте все растущих способностей науки в декодировании этих данных, под угрозой оказываются и мысли, и память, и подсознательные склонности. Так, обеспечение безопасности биологических данных, собираемых нейропротезами, должно учитываться в их дизайне. Частично можно позаимствовать опыт смартфонов в воплощении высочайших стандартов кодирования данных и защиты сетей. Кроме того, во многих странах жёсткие и формально регламентированные требования по охране личной информации применяются в медицине для защиты частных данных пациентов ужа сегодня.

Однако, с нейропротезами связан и характерный только для них – даже устрашающий – нюанс: а именно, захваченный злоумышленниками имплант может работать во вред своему носителю, сказываясь на состоянии организма. Например, мягко влиять на настроение за счёт стимуляции состояний нервной системы. И вновь, как бы ни напоминал данный сюжет утопическую фантастику, ещё в 2014 году Агентство Национальной Безопасности США провело проверку двадцати медицинских имплантов на подверженность кибератакам, а группа учёных показала, что злонамеренное вмешательство в работу инсулиновой помпы или кардиодефибриллятора приведёт к летальному исходу. В статье 2016 года специалисты по «нейробезопасности» выделили ряд потенциальных угроз, связанных с инвазивными НКИ. Авторы проанализировали техническую возможность различных типов атак. Среди их последствий: нарушение конфиденциальности, причинение боли, изменение настроения и системы мотивации, а также повреждение тканей. Нельзя сказать, что физически ограниченные люди — самая привлекательная цель для хакеров. Однако, это зависит от развития отрасли: например, от общего количества людей с разными видами инвазивных НКИ. Кроме того, в большей опасности атаки находятся известные люди. Уже известен случай, когда вице-президент при Джордже Буше-младшем, Дик Чейни, по совету своих докторов отказался от регулируемого через беспроводную сеть кардиостимулятора. Затем этот инцидент умело применили для своего шоу сценаристы шпионского сериала «Родина» (Homeland).

Несмотря на риски, для людей, которых ожидают тяжёлые формы паралича, даже возможность существования нейропротеза, который позволит общаться с окружающим миром – не больше и не меньше, чем надежда на жизнь. Исследования показывают, что почти 95% людей, которым грозит «синдром запертого человека» решают закончить свою жизнь раньше, чем доходят до последних стадий болезни. Другие исследования открывают, что, вопреки ожиданиям, тяжелобольные с нейропротезами заявляют уровень счастья и удовлетворённости жизнью выше среднего. Кроме того, раньше люди с тяжёлым параличом, но сохраняющие при этом способность чувствовать и мыслить, в 30 процентах случаев были диагностированы как находящиеся в состоянии комы. Эти данные показывают важнейшую роль, которую могут сыграть нейропротезы. Однако, в противовес благам, доступным благодаря инвазивным НКИ, стоит настоящий экзистенциальный страх растворения личности. Нетрудно представить, как чувствительна отрасль нейропротезов к общественному мнению, ведь их отличительная черта — именно внедрение аппарата внутрь мозга, на что не пойдут и чего ещё долго буду опасаться люди, не нуждающиеся остро в помощи этих устройств. Такая тенденция, безусловно, имеет корни и в человеческой природе, и в культуре и истории.

Стоит помнить, что ещё не проведено достаточно клинических испытаний, чтобы утверждать об исключительно положительных следствиях медицинских имплантов – даже для людей с физическими лишениями. Учёные настаивают на повышении грамотности общества в сфере нейропротезирования и внедрении базовых принципов безопасности, таких, как вето и кодирование данных, уже сегодня. Должны ли мы допускать ударный маркетинг НКИ, пока считаем, что эти устройства безопасны? Или пора предпринимать первые шаги по защите потребителей от возможных побочных эффектов? В силу специфичности отрасли и ее потенциального действия на пользователей нейропротезов, учёные призывают к максимально аккуратным и продуманным не только технически, но и этически разработкам.

Текст: Мария Азанова





Ссылка на источник

Tags: имплантация, протезирование, роботы, этика
Subscribe

Posts from This Journal “роботы” Tag

promo nemihail 16:00, вчера 94
Buy for 30 tokens
Наверняка вы уже слышали, что вкладчики вывели из Сбербанка 10% валютных сбережений. Все это происходит на новостях о том, что банки могут принудительно конвертировать ваши валютные вклады в рубли. А это в свою очередь как реакция на очередные санкции США. Об этом говорит и курс доллара,…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments