Внутри загадочного совета по этике google, популярное
На прошлой неделе мир технологий загудел, когда Google объявила о трате почти полумиллиарда долларов на компанию DeepMind, британского разработчика искусственного интеллекта. Представляем вам размышления западных экспертов Forbes о том, какие последствия может вызвать дальнейшее развитие событий.
Справедливым будет предположение, что умные люди в DeepMind хорошо подумали об искусственном интеллекте и его последствиях. Искусственный интеллект — очень мощная технология, которая в значительной степени незаметна среднестатистическому человеку. Уже сейчас искусственный интеллект управляет самолетами, фондовыми рынками, ищет информацию, наблюдает за людьми и многое другое. Это важные приложения, которые не помогают, но имеют огромное влияние на общество и этику.
Третий вопрос будет связан с этическими дымовыми завесами.
Первая проблема заключается в ограничениях этики правовой ответственностью.
Оказывается, существует не так много законов, которые непосредственно регулируют исследования искусственного интеллекта, хотя обычные законы о неприкосновенности частной жизни и ответственности за качество продукции остаются в силе. Требование создания совета по этике DeepMind может говорить о том, что компания заинтересована не только в том, чтобы избежать правовых разбирательств.
Вся эта неопределенность вызывает нервный вопрос: что же это такое DeepMind, покупка которой провоцирует Google на создание совета по этике? Это профилактическая мера или необходимость, чтобы спасти человечество? Каким бы ни был ответ, мы не будем кормить вас сплетнями. Но этическая сторона вопроса крайне интересна.
Разработчики искусственного интеллекта находятся под давлением. Точно так же, как владелец пистолета несет огромную ответственность, DeppMind проявляет здравую ответственность за создание мощной технологии. Но поскольку DeepMind ищет независимого арбитра по этике, остаются на виду или прячутся в тени важные вопросы, о которых забывать не стоит.
Вернемся к DeepMind. Если этот совет по этике искусственного интеллекта не более чем шоу, Google упустит возможность воплотить свою популярную философию «не будь злом». Без совета по этике или других аналогичных специалистов будет трудно определить настоящее зло.
В таком случае, будем надеяться, что ключевые участники мероприятия ценят этику в полном объеме. Этика не только диктует правила того, что нужно и не нужно делать. Особенно в сфере технологий. Закон зачастую не определяет сферу действия новых технологий, что может вызвать конфликты на социальной или политической почве.
Этот особый акцент может привести к прекрасным результатам, например, к уменьшению потребительского риска и повышению общественной безопасности. Но давайте не будем обманываться: этот акцент продиктован корыстной целью минимизировать корпоративную ответственность. Это серая зона для развивающихся технологий, поскольку они пока не ограничены никакими законами и нормами. Так же как глупо тыкать палкой в осиное гнездо, компания боится попасть невзначай не туда, куда нужно, поэтому заранее предостерегает себя от будущих проблем и судебных разбирательств.
В новостях пишут, что DeepMind «настаивала» на совете по этике, словно говоря о том, что Google была против идеи. Такой вариант поднимает вопрос о том, как долго будет поддерживаться соглашение и насколько серьезно Google относится к этой идее. Возможно, компания просто согласилась на создание совета, чтобы успокоить DeepMind?
Совет по этике технологий, по этой причине, может быть бесценной канарейкой в шахте, то есть разведывать взрывоопасные развивающиеся технологии и предлагать законы, их регулирующие. Совет по этике может предложить направление, которое полностью позволит избежать этих проблем. Или же вызвать всех на открытое обсуждение, чтобы прояснить и обезвредить токсичные вопросы и оценить общественную реакцию.
И хотя мы хотим избежать слухов, они, тем не менее, могут быть показательными. В отсутствие официальных заявлений слухи неизбежно заполняют пустоту. Ходит слух, что Google серьезно планирует создать совет по этике, поскольку получит приз на конкурсе Robotics Challenge, проводимом DARPA, в котором сейчас лидирует, что гарантирует не только денежный приз, но и международное признание. Вне зависимости от того, считает ли Google военный рынок неприбыльным или не хочет принимать участие в развитии военных технологий, многие антивоенные кампании вздохнут с облегчением.
Внутренние комитеты стали опорой в медицине за последние 30 лет. Эти комитеты состоят не только из юристов, но и врачей, медсестер, специалистов по биоэтике, теологии и философии. Этот подход куда лучше, чем просто принятие спорных решений, вроде эвтаназии и ампутации конечностей.
С другой стороны, у внешних советов есть уникальные преимущества. Они могут быть гораздо более независимыми, чем внутренние консультанты, которые будут бояться обидеть руководство и которые менее способны принимать удар на себя. Проще говоря, внешние консультанты не боятся потерять свое рабочее место.
Связана ли сделка Google со взрывом покупок семи компаний по производству роботов в декабре, включая Boston Dynamics, «компании, которая тесно связана с армией США»? Готовит ли Google армию роботов с искусственным интеллектом? Хочет ли Google создать что-то типа Skynet? Или это просто слухи, возникающие в условиях информационного вакуума? Ведь сделка может просто улучшить функциональность поисковой системы.
На кону не только душа Google — на кону будущее нашего мира. Будем надеяться, что технологические лидеры не будут сбрасывать бремя ответственности за нас.
Мы не знаем, кто будет приглашен в совет по этике, но мы знаем, что «главный сотрудник по вопросам этики» будет популярной вакансией в течение более десяти лет. На эту позицию будут приглашаться юристы, ориентированные на вопросы соблюдения законов или предупреждения их нарушений. Google показывает прекрасный пример со своей компанией по этике и соблюдению законов, которая работает «с внешними консультантами по этике, чтобы соблюдать соответствующие политические законы и связанные с этим нормы».
Второй вопрос относится к ограниченности внутреннего совета по этике.
Внутренние советы по этике, состоящие не только из юристов, сосредоточенных на выполнении законов, менее распространены в других сферах, хотя тенденция есть. Помимо сделки Google-DeepMind, недавно и BMW отметила, что было бы мудро иметь внутренний комитет по этике, который поможет развитию автоматизации самоуправляемых автомобилей.
С одной стороны, у внутреннего совета по этике есть особое положение. В определенной степени он будет сильнее влиять на корпорацию, нежели внешний консультант. У него может быть доступ к конфиденциальной информации и он может обеспечить что угодно по требованию руководства. Таким образом, даже если Google будет консультироваться с внешними специалистами по этике, реальная ценность в создании внутреннего совета также есть.
Советы по этике также могут быть заинтересованы в качественной работе из-за общественной поддержки. Голландский философ Питер Пауль Вербеек, например, президент Общества по философии технологий, получит грант в 1,5 миллиона евро от голландской организации по научным исследованиям, чтобы изучить влияние Google Glass на людей.
Всем знакомо это беспокойство, когда организация учиняет комитет по этике только для того, чтобы показать, как она заботится о последствиях. Мы уже слышали о таком в сфере военного вооружения. Однако опыт показывает, что эти организации действительно беспокоятся об этике, а вдобавок и дорожат корпоративной репутацией, как мы отмечали выше. Stuxnet, например, обратила пристальное внимание на академические статьи об этике кибероружия. Даже если это мотивировано личным интересом, тенденция крайне позитивная.
Это разделение может привести к более объективному суду и позволит видеть как отдельные элементы, так и общую картину.
Источник: http://v001.ru
