Google назвал принципы в отношении искусственного интеллекта и разработок для военных

Глава Google Сундар Пичаи (Sundar Pichai) назвал семь принципов, которыми компания руководствуется в работе с искусственным интеллектом. При этом он отметил, что это «не теоретические понятия, а конкретные стандарты», активно управляющие исследованиями и разработками в этой области, и влияющие на бизнес-решения.

Согласно Google, AI-приложения должны:

  1. Быть социально полезными. Достижения в области искусственного интеллекта будут иметь трансформирующее влияние на широкий ряд отраслей, включая здравоохранение, безопасность, энергетику, транспорт, производство и развлечения, считают в Google.
  2. Избегать создания или усиления предвзятого отношения. AI-алгоритмы и наборы данных могут отображать, усиливать или уменьшать предвзятое отношение . В Google признают, что различить справедливое и несправедливое отношение не всегда просто, причём различные проявления могут по-разному восприниматься в разных культурах и обществах. Но компания намерена по-максимуму избегать негативного влияния на людей, в частности, в таких вопросах, как раса, этническая принадлежность, пол, национальность, уровень дохода, сексуальная ориентация, а также политические и религиозные убеждения.
  3. Проверяться на безопасность. Google продолжит разрабатывать и применять надежные методы обеспечения безопасности, чтобы избежать непредвиденных результатов AI-разработок, несущих риск причинения вреда.
  4. Быть подконтрольным людям. Google будет разрабатывать AI-системы, которые будут предоставлять надлежащие возможности для обратной связи, объяснений и подачи жалоб. AI-разработки компании будут подлежать соответствующему человеческому контролю и руководству.
  5. Защищать конфиденциальность. Принципы конфиденциальности Google будут применяться и на этапе разработки, и на этапе использования AI-технологий.
  6. Поддерживать высокие научные стандарты. По словам Пичаи, технологические инновации основаны на научном методе и приверженности открытому исследованию, интеллектуальной строгости, целостности и сотрудничеству. Google будет работать с рядом заинтересованных сторон для содействия продуманному лидерству в этой области, опираясь на научно строгие и мультидисциплинарные подходы.
  7. Быть доступными для использования, которое согласуется с этими принципами.

Пичаи также очертил области, в которых Google не будет заниматься AI-разработками и исследованиями. В их числе:

  • Технологии, которые приносят или могут принести вред;
  • Вооружение и другие технологии, главной целью которых является причинение вреда людям;
  • Технологии, которые собирают или используют информацию для наблюдения, нарушающего международные нормы;
  • Технологии, нарушающие принципы международного права и права человека.

«Мы считаем, что эти принципы являются правильным фундаментом для нашей компании и будущего развития искусственного интеллекта. Этот подход согласуется с нашими ценностями, изложенными в обращении основателей компании в 2004 году. Там мы чётко определили наше намерение занять позицию, ориентированную на долгосрочную перспективу, даже если это означает принятие краткосрочных компромиссов. Тогда мы это сказали, а теперь мы в это верим», — заключил Пичаи.

Вслед за публикацией AI-принципов руководитель облачных сервисов Google Дайан Грин (Diane Green) озвучила позицию компанию в отношении сотрудничества с Пентагоном, активно критикуемого сотрудниками корпорации. В частности, она заявила, что заключать новые контракты компания не будет, но взятые на себя обязательства выполнит, при этом придерживаясь принципов, оглашённых Сундаром Пичаи.

Цель Project Maven – ускорить распознавание объектов на снимках с бесполитников с помощью искусственного интеллекта. Срок действия контракта истекает в марте 2019 года.

О том, что Google Cloud не будет продлевать контракт с Министерством обороны США, стало известно в начале этого месяца. Теперь Грин официально подтвердила эту информацию.

 

1 star2 star3 star4 star5 star (2 голос, среднее: 5,00 из 5)
Загрузка...
Google

 

Комментировать!

Вам понравится

Google заверил, что Assistant будет представляться как робот во время звонков... Как сообщалось ранее, на конференции I/O 2018 Google показал демо-версию новой технологии Duplex, которая будет встроена в голосовой помощник Assistant уже этим летом. Благо...
Выручка Alphabet в первом квартале 2018 выросла на 26% – до $31,1 млрд... Холдинг Alphabet, владеющий Google, огласил финансовые результаты за первый квартал 2018 года. Общие результаты В отчётном периоде совокупная выручка компании выросла на ...
Google купила компанию Limes Audio, работающую над улучшением качества звонков... Google заявила, что собирается приобрести Limes Audio – шведскую компанию, которая ведет работы по улучшению качества голосовых звонков. К слову, компания трудится уже на протяжени...
Искусственный интеллект от Google придумал секретный язык... В сентябре Google анонсировала запуск системы Neural Machine Translation. Она может самообучаться, что делает перевод более естественным. После этого создатели NMT задумались над с...
Поделят ли Google и BMW название Alphabet Новость о том, что Google выбрал Alphabet как свою головную компанию, будоражит умы вот уже больше суток. Среди пользователей возникают бесконечные споры по поводу уместности этого...
Google запустил беспроводной сервис мобильной связи Project Fi... Google запустил собственный беспроводной сервис мобильной связи под названием Project Fi. Единственный смартфон, который в настоящее время может работать в такой сети, - Nexus 6. ...