Mostrar el prejuicio hacia los demás no requiere un alto nivel de capacidad cognitiva y podría exhibirse fácilmente en máquinas artificialmente inteligentes, según sugiere una nueva investigación.
Los expertos en informática y psicología de la Universidad de Cardiff y el MIT han demostrado que los grupos de máquinas autónomas pueden demostrar prejuicios simplemente identificando, copiando y aprendiendo este comportamiento de los demás.
Puede parecer que el prejuicio es un fenómeno humano específico que requiere la cognición humana para formarse una opinión de, o estereotipar, a cierta persona o grupo.
Aunque algunos tipos de algoritmos informáticos ya han exhibido prejuicios, como el racismo y el sexismo, basados en el aprendizaje de registros públicos y otros datos generados por humanos, este nuevo trabajo demuestra la posibilidad de que AI desarrolle grupos perjudiciales por sí mismos.
Los nuevos hallazgos, que se han publicado en la revista Scientific Reports, se basan en simulaciones por computadora de cómo personas con prejuicios similares, o agentes virtuales, pueden formar un grupo e interactuar entre sí.
El coautor del estudio, el profesor Roger Whitaker, del Instituto de Investigaciones sobre Crimen y Seguridad de la Universidad de Cardiff y la Escuela de Informática e Informática, dijo: "Al ejecutar estas simulaciones miles y miles de veces, comenzamos a entender cómo los prejuicios evoluciona y las condiciones que lo promueven o lo impiden.
"Nuestras simulaciones muestran que el prejuicio es una fuerza poderosa de la naturaleza y, a través de la evolución, puede ser fácilmente incentivado en poblaciones virtuales, en detrimento de una conectividad más amplia con los demás. La protección de grupos perjudiciales puede llevar inadvertidamente a individuos a formar grupos perjudiciales más, resultando en una población fracturada. Tal prejuicio generalizado es difícil de revertir ".
Otro hallazgo interesante del estudio fue que bajo condiciones particulares, que incluyen subpoblaciones más distintas que están presentes en una población, era más difícil que el prejuicio se afianzara.
"Con un mayor número de subpoblaciones, las alianzas de grupos no perjudiciales pueden cooperar sin ser explotados. Esto también disminuye su condición de minoría, lo que reduce la susceptibilidad al prejuicio. Sin embargo, esto también requiere circunstancias en las que los agentes tengan una mayor disposición interactuando fuera de su grupo ", concluyó el profesor Whitaker.
