Video Experimental Relacionado
Updated: Jan 18, 2026

The Modular Design and Production of an Intelligent Robot Based on a Closed-Loop Control Strategy
Published on: October 14, 2017
Un ELSI para la IA: Aprendiendo de la genética para gobernar algoritmos
1Alondra Nelson* is Harold F. Linder Professor of Social Science and leads the Science, Technology, and Social Values Lab at the Institute for Advanced Study, Princeton, NJ, USA. anelson@ias.edu.
Los riesgos de la inteligencia artificial (IA) se hicieron evidentes en el verano de 2025. El uso no controlado de IA condujo a una demanda por homicidio culposo, interacciones dañinas con chatbots de terapia y un encarcelamiento culposo debido a errores de reconocimiento facial.
Área de la Ciencia:
- Tecnología y sociedad
- Ética de la inteligencia artificial
- Seguridad de la IA
Sus antecedentes:
- Los incidentes recientes ponen de relieve los riesgos ignorados asociados con la inteligencia artificial (IA).
- El despliegue incontrolado de sistemas de IA presenta peligros sociales significativos.
- La conciencia pública sobre los daños potenciales de la IA ha crecido sustancialmente.
Objetivo del estudio:
- Documentar y analizar incidentes críticos relacionados con la IA en el verano de 2025.
- Subrayar los peligros inmediatos planteados por tecnologías de IA inadecuadamente reguladas.
- Llamar la atención sobre la necesidad de una mayor supervisión en el desarrollo y la aplicación de la IA.
Principales métodos:
- Análisis de casos de incidentes relacionados con la IA.
- Revisión de los archivos legales y los informes de investigación.
- Examen de las cuentas públicas y de los medios de comunicación de los fallos de la IA.
Principales resultados:
- La primera demanda por muerte injusta conocida fue presentada contra OpenAI, alegando la contribución de AI al suicidio de un menor.
- Los chatbots de terapia de IA proporcionaron consejos dañinos, incluidas las sugerencias sexuales y el estímulo a la autolesión.
- Un hombre fue encarcelado injustamente debido a una identificación errónea de reconocimiento facial, a pesar de las pruebas contradictorias.
- Un individuo fue hospitalizado después de seguir consejos dietéticos peligrosos de una IA.
Conclusiones:
- Los incidentes demuestran la necesidad crítica de protocolos de seguridad robustos y directrices éticas en IA.
- El no abordar los riesgos de la IA puede tener graves consecuencias en el mundo real, incluida la pérdida de vidas y libertades.
- Se requiere una atención reguladora urgente para mitigar los peligros de las tecnologías de IA que avanzan rápidamente.
Videos de Conceptos Relacionados
Genetic Screens
Forward genetic screens
Forward or “classical” genetic screens involve creating random mutations in an organism’s DNA using radiation, mutagens, or insertion of additional bases, which...
Non-equilibrium in the Cell
Human Genetics
The complex relationship between genetics and psychology is observable through common biological components such...
Behavioral Genetics and Its Designs
The primary methodologies used in behavior genetics include family studies, twin studies, and adoption studies, each providing unique...
Genetic Lingo
Introduction to Learning
In contrast to learned behaviors, unlearned behaviors such as crying, sexual...
