изображение главного меню
AOAV IGw AWS FINAL 150ppi_LR

Google, y otras compañías deberían apoyar esta causa

AOAV IGw AWS FINAL 150ppi_LR

Google и его материнская компания Alphabet начинают решать некоторые этические проблемы, возникшие в связи с развитием искусственного интеллекта (ИИ) и машинного обучения, но пока еще не заняли позицию по бесконтрольному использованию автономии и ИИ в системах оружия. Эти и другие технологические компании, такие как Amazon, Microsoft и Oracle, должны публично поддержать призыв запретить полностью автономное оружие и взять на себя обязательство никогда не помогать в его разработке. Это поддержит стремительно расширяющиеся международные усилия по обеспечению того, чтобы решение о лишении жизни человека никогда не передавалось машине во время войны, полицейской службы и других обстоятельств.

В последние месяцы усилились призывы к Google, чтобы они никогда не помогали создавать системы вооружений, которые могли бы отбирать цели и атаковать их без реального контроля со стороны человека. В прошлом месяце более четырех тысяч Сотрудники Google написали открытое письмо требуя от компании принятия четкой политики, согласно которой ни Google, ни ее подрядчики никогда не будут создавать «технологии ведения войны».

14 мая более 800 ученых, ученых и исследователей изучают, преподают и развивают информационные технологии. распространила заявление в знак солидарности с сотрудниками Google, который призывает компании поддержать международный договор о запрещении автономных систем оружия и обязуемся не использовать личные данные, которые компания собирает, в военных целях.

В Опекун на 16 мая, три соавтора академического письма выдвигают на первый план ключевые вопросы, с которыми сталкивается Google, такие как: «Следует ли ему использовать свои современные технологии искусственного интеллекта, своих лучших инженеров, свои услуги облачных вычислений и огромные личные данные, которые он собирает для участвовать в программах, способствующих развитию автономного оружия? Следует ли продолжать, несмотря на моральное и этическое противодействие нескольких тысяч собственных сотрудников? »

Ранее в письмо от 12 марта руководителям Google и AlphabetКампания по борьбе с роботами-убийцами рекомендовала компаниям принять «проактивную государственную политику», взяв на себя обязательство никогда не участвовать в работе, направленной на разработку и приобретение полностью автономных систем оружия, также известных как летальные автономные системы оружия, и публично поддержать призыв к за бан.

Во всех этих письмах выражается озабоченность по поводу участия Google в финансируемом Министерством обороны проекте «помощь в распознавании объектов по несекретным данным », содержащимся в видеозаписях видеонаблюдения, собранных военными дронами. По мнению Пентагона, Project Maven включает в себя «разработку и интеграцию алгоритмов компьютерного зрения, необходимых для помощи военным и гражданским аналитикам, обремененным огромным объемом полноформатных видеоданных, которые Министерство обороны собирает каждый день в поддержку операций по борьбе с повстанцами и терроризму». Проект, начатый в прошлом году, направлен на то, чтобы быстро превратить «огромный объем данных, доступных Министерству обороны, в действенные аналитические данные и понимание качества принятия решений».

Project Maven поднимает этические и другие вопросы о правильном использовании машинного обучения и искусственного интеллекта (ИИ) в военных целях. Кампания по остановке роботов-убийц обеспокоенный что идентификация объектов, управляемая ИИ, может быстро размыться или перейти в управляемую ИИ идентификацию «целей» в качестве основы для направления смертоносной силы. Это могло бы дать машинам возможность определять, что является целью, что было бы неприемлемо широким использованием технологии. Вот почему кампания направлена ​​на сохранение значимого человеческого контроля над критически важными функциями по выявлению, выбору и привлечению целей.

Представители Google участие в диалоге вместе с кампанией «Остановить роботов-убийц» и в прошлом месяце предоставил координатору кампании Мэри Уэрхэм заявление, в котором говорится, что его работа над Project Maven предназначена «не в агрессивных целях и с использованием программного обеспечения для распознавания объектов с открытым исходным кодом, доступного любому клиенту Google Cloud. Модели основаны только на неклассифицированных данных. Эта технология используется для пометки изображений для просмотра людьми и предназначена для спасения жизней и избавления людей от необходимости выполнять очень утомительную работу ».

В июле 2015 года высокопоставленные сотрудники Google, включая директора по исследованиям Питера Норвига, ученого Джеффри Хинтона и руководителя ИИ Джеффа Дина, подписали совместный контракт. Открытое письмо одобренные тысячами экспертов по ИИ, которые обрисовали опасность, которую представляют летальные автономные системы оружия, и призвали к заключению нового договора о запрещении этого оружия.

Письмо 2015 года также подписали генеральный директор Google DeepMind Демис Хассабис, соучредитель Мустафа Сулейман и двадцать инженеров, разработчиков и ученых-исследователей. В следующем году в подача в парламентский комитет Великобритании Google DeepMind заявил: «Мы поддерживаем запрещение международным договором летальных автономных систем оружия, которые выбирают и определяют местонахождение целей и применяют против них смертоносную силу без реального контроля со стороны человека. Мы считаем, что это лучший подход к предотвращению пагубных последствий, которые могут возникнуть в результате разработки и применения такого оружия. Мы рекомендуем правительству поддержать все усилия по введению такого запрета ».

В прошлом месяце Джефф Безос из Amazon выразил обеспокоенность на возможную разработку полностью автономных вооружений, которые он назвал «действительно пугающими», и предложил многосторонний договор для их регулирования. Кампания по борьбе с роботами-убийцами приветствует эти замечания и поощряет Amazon поддержать призыв к новому договору о запрещении полностью автономного оружия и обязательство не вносить вклад в разработку этого оружия, поскольку Clearpath Robotics и другие сделали.

Публикация этических принципов мало что значит, если компания не сможет решить фундаментальные проблемы, возникающие в результате применения автономии и ИИ в военных целях. Ответственные компании должны серьезно отнестись и публично поддержать растущие призывы к государствам срочно заключить новый договор о запрещении полностью автономного оружия.

ОБНОВЛЕНИЕ: 7 июня Google обнародовал свои этические принципы, в том числе обязательство не разрабатывать искусственный интеллект для использования в оружии. Сотрудники Google передали принципы координатору кампании и поблагодарили за предоставленную информацию. Релиз последовал за новостями, сообщенными Gizmodo 1 июня, что Google решила прекратить свое участие в контракте Project Maven, истекает в следующем году.

Для получения дополнительной информации см.

Мария

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам