Google назвал принципы в отношении искусственного интеллекта и разработок для военных

Глава Google Сундар Пичаи (Sundar Pichai) назвал семь принципов, которыми компания руководствуется в работе с искусственным интеллектом. При этом он отметил, что это «не теоретические понятия, а конкретные стандарты», активно управляющие исследованиями и разработками в этой области, и влияющие на бизнес-решения.

Согласно Google, AI-приложения должны:

  1. Быть социально полезными. Достижения в области искусственного интеллекта будут иметь трансформирующее влияние на широкий ряд отраслей, включая здравоохранение, безопасность, энергетику, транспорт, производство и развлечения, считают в Google.
  2. Избегать создания или усиления предвзятого отношения. AI-алгоритмы и наборы данных могут отображать, усиливать или уменьшать предвзятое отношение . В Google признают, что различить справедливое и несправедливое отношение не всегда просто, причём различные проявления могут по-разному восприниматься в разных культурах и обществах. Но компания намерена по-максимуму избегать негативного влияния на людей, в частности, в таких вопросах, как раса, этническая принадлежность, пол, национальность, уровень дохода, сексуальная ориентация, а также политические и религиозные убеждения.
  3. Проверяться на безопасность. Google продолжит разрабатывать и применять надежные методы обеспечения безопасности, чтобы избежать непредвиденных результатов AI-разработок, несущих риск причинения вреда.
  4. Быть подконтрольным людям. Google будет разрабатывать AI-системы, которые будут предоставлять надлежащие возможности для обратной связи, объяснений и подачи жалоб. AI-разработки компании будут подлежать соответствующему человеческому контролю и руководству.
  5. Защищать конфиденциальность. Принципы конфиденциальности Google будут применяться и на этапе разработки, и на этапе использования AI-технологий.
  6. Поддерживать высокие научные стандарты. По словам Пичаи, технологические инновации основаны на научном методе и приверженности открытому исследованию, интеллектуальной строгости, целостности и сотрудничеству. Google будет работать с рядом заинтересованных сторон для содействия продуманному лидерству в этой области, опираясь на научно строгие и мультидисциплинарные подходы.
  7. Быть доступными для использования, которое согласуется с этими принципами.

Пичаи также очертил области, в которых Google не будет заниматься AI-разработками и исследованиями. В их числе:

  • Технологии, которые приносят или могут принести вред;
  • Вооружение и другие технологии, главной целью которых является причинение вреда людям;
  • Технологии, которые собирают или используют информацию для наблюдения, нарушающего международные нормы;
  • Технологии, нарушающие принципы международного права и права человека.

«Мы считаем, что эти принципы являются правильным фундаментом для нашей компании и будущего развития искусственного интеллекта. Этот подход согласуется с нашими ценностями, изложенными в обращении основателей компании в 2004 году. Там мы чётко определили наше намерение занять позицию, ориентированную на долгосрочную перспективу, даже если это означает принятие краткосрочных компромиссов. Тогда мы это сказали, а теперь мы в это верим», — заключил Пичаи.

Вслед за публикацией AI-принципов руководитель облачных сервисов Google Дайан Грин (Diane Green) озвучила позицию компанию в отношении сотрудничества с Пентагоном, активно критикуемого сотрудниками корпорации. В частности, она заявила, что заключать новые контракты компания не будет, но взятые на себя обязательства выполнит, при этом придерживаясь принципов, оглашённых Сундаром Пичаи.

Цель Project Maven – ускорить распознавание объектов на снимках с бесполитников с помощью искусственного интеллекта. Срок действия контракта истекает в марте 2019 года.

О том, что Google Cloud не будет продлевать контракт с Министерством обороны США, стало известно в начале этого месяца. Теперь Грин официально подтвердила эту информацию.

 

1 star2 star3 star4 star5 star (2 голос, среднее: 5,00 из 5)
Загрузка...
Google

 

Комментировать!

Вам понравится

Сундар Пичаи впервые публично прокомментировал проект Google Dragonfly... Глава Google Сундар Пичаи (Sundar Pichai) впервые публично ответил на вопросы касательно проекта Dragonfly, связанного с разработкой поисковика с цензурой для Китая. «Наша мис...
Google заверил, что Assistant будет представляться как робот во время звонков... Как сообщалось ранее, на конференции I/O 2018 Google показал демо-версию новой технологии Duplex, которая будет встроена в голосовой помощник Assistant уже этим летом. Благо...
Выручка Alphabet в первом квартале 2018 выросла на 26% – до $31,1 млрд... Холдинг Alphabet, владеющий Google, огласил финансовые результаты за первый квартал 2018 года. Общие результаты В отчётном периоде совокупная выручка компании выросла на ...
Google купила компанию Limes Audio, работающую над улучшением качества звонков... Google заявила, что собирается приобрести Limes Audio – шведскую компанию, которая ведет работы по улучшению качества голосовых звонков. К слову, компания трудится уже на протяжени...
Искусственный интеллект от Google придумал секретный язык... В сентябре Google анонсировала запуск системы Neural Machine Translation. Она может самообучаться, что делает перевод более естественным. После этого создатели NMT задумались над с...
Поделят ли Google и BMW название Alphabet Новость о том, что Google выбрал Alphabet как свою головную компанию, будоражит умы вот уже больше суток. Среди пользователей возникают бесконечные споры по поводу уместности этого...