Исследователи призывают к регулированию сферы искусственного интеллекта

Исследователи призывают к регулированию сферы искусственного интеллекта

Группа исследователей искусственного интеллекта, работающих в Нью-йоркском университете, выпустила документ, в котором содержится призыв к введению государственного регулирования этой новой, только что образующейся сферы. Во главе группы, именуемой «Искусственный интеллект сейчас» (AI Now) — сотрудники крупных высокотехнологических компаний, в том числе Google and Microsoft.

В документе, представляющем собой отчёт о работе группы в 2018 году, говорится о быстром развитии сферы искусственного интеллекта и его проникновении в повседневную жизнь людей. Особое внимание при этом уделено этическим вопросам, возможным нарушениям прав людей на частную жизнь и «демографическому смещению» — неодинаковой точности срабатывания распознавания лиц в отношении различных рас и групп людей.

Развитие искусственного интеллекта создаёт перспективу установления тотального мониторинга. Немалая угроза исходит и от систем автоматического принятия решений. При этом практика показывает, что компании, которые занимаются искусственным интеллектом, не в состоянии обеспечить надзор за его использованием.

Исследователи, составившие документ, считают, что государство должно регулировать сферу искусственного интеллекта. Необходимо вводить ограничения на его использование, создавать органы надзора за данной отраслью, обеспечивать прозрачность систем. Те, кто применяет искусственный интеллект, должны, по мнению авторов документа, объяснять общественности, как и зачем они принимают решение сделать это.

Отчёт появился почти одновременно с выступлением президента компании Microsoft Бреда Смита, который призвал правительство США ввести государственное регулирование распознавания лиц. Одновременно глава Google сформулировал этические принципы работы компании с искусственным интеллектом. Компания Trueface, которая специализируется на распознавании лиц, вырабатывает свои этические принципы для продажи собственной продукции.

Наиболее несбыточным в документе выглядит пункт о том, что организации защиты потребителей должны обеспечить правдивость рекламы продуктов, основанных на искусственном интеллекте.



Источник: http://www.secnews.ru/foreign/23958.htm#ixzz5clkNsAy3
Security News