Anthropic, una empresa de inteligencia artificial, ha presentado un proyecto de ley de seguridad de IA que plantea la posibilidad de bloquear un modelo si existe la posibilidad de que más de 50 personas puedan morir como resultado de su funcionamiento. Esta iniciativa busca regular y garantizar un uso ético y seguro de la inteligencia artificial en aplicaciones que puedan tener un impacto significativo en la vida humana.
La propuesta de Anthropic destaca la necesidad de establecer límites claros y mecanismos de control para prevenir situaciones donde la IA pueda causar daño a gran escala. Al definir un umbral de riesgo basado en el potencial de víctimas mortales, se busca evitar tragedias y promover un desarrollo tecnológico más consciente y seguro.
Esta iniciativa refleja la creciente preocupación en la comunidad de IA sobre los posibles riesgos asociados con el despliegue de sistemas autónomos y la toma de decisiones automatizada en contextos críticos. La discusión en torno a la regulación de la IA se intensifica a medida que su alcance y capacidad continúan expandiéndose en diversos sectores.
La propuesta de Anthropic plantea un enfoque proactivo hacia la seguridad de la IA, fomentando la transparencia, la rendición de cuentas y la evaluación de riesgos en el desarrollo y despliegue de sistemas inteligentes. Este proyecto de ley podría sentar un precedente importante en la industria y guiar futuras regulaciones en torno a la ética y la seguridad en la IA.
Fuente: TechCrunch
