Robots de carrera y asesinos

Deshumanización digital y sesgo algorítmico

Desde las redes sociales hasta el uso de perros robot por parte de la policía, las tecnologías de inteligencia artificial y la toma de decisiones automatizada ahora juegan un papel importante en nuestras vidas.Los prejuicios en nuestra sociedad viven en los algoritmos que diseñamos, en los conjuntos de datos que recopilamos y en las etiquetas que nos prescribimos unos a otros.

Las tecnologías emergentes como el reconocimiento facial y vocal se basan en conjuntos de datos de entrenamiento ya sesgados y, a menudo, no reconocen a las personas de color, las personas con discapacidades y las mujeres, favoreciendo los rostros de piel clara y exteriormente masculinos sobre los rostros de piel más oscura y exteriormente femeninos.

Y aunque se harán esfuerzos para diversificar los conjuntos de datos, este no es solo un problema de datos no representativos.

“El reconocimiento facial corre el riesgo de ser utilizado como arma por la policía contra comunidades marginadas de todo el mundo. Desde Nueva Delhi hasta Nueva York, esta tecnología invasiva vuelve nuestras identidades en nuestra contra y socava los derechos humanos ".

Dr. Matt Mahmoudi, investigador de inteligencia artificial y derechos humanos de Amnistía Internacional.

Agravando el daño para las comunidades racializadas

Las armas son herramientas del poder colonial e imperial, que alimentan conflictos y guerras que afectan de manera desproporcionada a las minorías visibles y las comunidades vulnerables. El reconocimiento facial y otras formas de tecnología de inteligencia artificial están reforzando los patrones institucionales existentes de discriminación, lo que tiene como resultado efectos desproporcionados en comunidades históricamente marginadas.

Muchas tecnologías con diversos grados de autonomía ya se están implementando ampliamente sin detenerse a considerar las consecuencias de normalizar su uso. En el extremo más extremo del espectro de la creciente automatización se encuentran los robots asesinos.

Las tecnologías que permiten armas autónomas perfilarán, emparejarán patrones y procesarán automáticamente a las personas como datos.

El racismo sistémico y la supremacía blanca están indisolublemente vinculados con el desarrollo y uso de armas. Las nuevas tecnologías problemáticas también se prueban a menudo primero en comunidades marginadas.

Deberíamos desafiar las estructuras de la desigualdad, no incorporarlas a las armas.

Únete a #TeamHuman

Estamos pidiendo una nueva ley internacional porque las leyes que prohíben y regulan las armas crean límites para los gobiernos y las empresas entre lo que es aceptable y lo que es inaceptable. Podemos impulsar esto con mayor impulso utilizando nuestra voz colectiva y exigiendo públicamente un cambio.

Mantente al día

Interseccionalidad, racismo y robots asesinos

¿Qué es la interseccionalidad? ¿Y por qué es importante cuando hablamos de robots asesinos y racismo? Con raíces históricas y teóricas en el feminismo negro y el activismo de las mujeres de color, la interseccionalidad es un concepto que reconoce todas las formas de opresión como el capacitismo, el clasismo, la misoginia y el racismo; y examina cómo operan estas opresiones en combinación.

Cómo Joy Buolamwini está combatiendo el sesgo en los algoritmos

Joy Buolamwini, estudiante de posgrado del MIT, estaba trabajando con un software de análisis facial cuando notó un problema: el software no detectó su rostro porque las personas que codificaron el algoritmo no le habían enseñado a identificar una amplia gama de tonos de piel y estructuras faciales. Ahora tiene la misión de combatir los prejuicios en el aprendizaje automático, un fenómeno que ella llama "mirada codificada". Una charla reveladora sobre la necesidad de responsabilidad en la codificación ... a medida que los algoritmos se hacen cargo de más y más aspectos de nuestras vidas.

Robots asesinos y África

Con el advenimiento de la cuarta revolución industrial, una plétora de innovaciones tecnológicas ha cambiado la forma en que vivimos y trabajamos. Esta innovación también está viendo nuevas formas en que se librarán las guerras. Los soldados no serán humanos, sino robots. Una nueva generación de armas autónomas o "robots asesinos" podría cambiar drásticamente la tecnología de los drones militares. El Dr. Thompson Chengeta, experto en derecho de los derechos humanos, habla con la South African Broadcasting Corporation sobre los robots asesinos y por qué los que viven en África y sus líderes políticos deberían preocuparse por la autonomía en los sistemas de armas.

Robots asesinos y derechos humanos

¿Qué implicaciones tendrán los robots asesinos en los derechos humanos? Rasha Abdul Rahim, de Amnistía Internacional, explica algunas de las implicaciones de los sistemas de armas autónomos para los derechos humanos.