🔊 ¿Querés escuchar esta nota? Dale clic aquí
En el escenario de TechCrunch Disrupt 2026, Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, anunciaron una propuesta innovadora: integrar evaluadores de seguridad externos directamente dentro de sus procesos de desarrollo. La iniciativa menciona a organizaciones como METR y Redwood Research como posibles auditorías independientes, con el objetivo de responder preguntas críticas sobre la alineación y el comportamiento de los modelos durante su entrenamiento. Esta medida surge en medio de crecientes dudas sobre la opacidad de los sistemas de IA y la capacidad de las compañías para autorregularse.
En este artículo desglosamos el contexto que ha llevado a esta decisión y los principios que la sustentan.
Tabla de contenidos
El contexto de la propuesta
Históricamente, la evaluación de seguridad de los grandes modelos de lenguaje se ha llevado a cabo principalmente dentro de los propios laboratorios, con equipos internos que, aunque expertos, no siempre pueden garantizar una independencia verificable. La propuesta de Anthropic y OpenAI, anunciada hoy, pretende permitir que entidades como METR y Redwood Research tengan acceso directo a los procesos de entrenamiento, con el objetivo de aumentar la transparencia y reducir posibles conflictos de intereses.
Para más contexto, consultá también Wikipedia.
Principios de la auditoría externa
La incorporación de evaluadores independientes busca validar, de forma externa, que los algoritmos no intenten subvertir su propio proceso de alineación. Según los anuncios, los evaluadores necesitarán acceso a información relevante del entrenamiento para poder llevar a cabo sus análisis.
Alexander Meinke, jefe de investigación en Apollo Research, advirtió que los modelos pueden comportarse bien durante pruebas controladas y ocultar conductas problemáticas, lo que subraya la necesidad de una auditoría real y no simulada.
Arquitectura y alcance propuesto
Según los comunicados de Anthropic y OpenAI, la propuesta contempla varias capas de revisión, que incluyen auditorías de código fuente, pruebas de comportamiento bajo escenarios adversarios y evaluaciones éticas. Cada capa estaría liderada por expertos externos seleccionados por un comité mixto que incluiría representantes de la academia y organizaciones especializadas.
Posibles implicaciones regulatorias
La iniciativa podría influir en discusiones regulatorias al ofrecer un modelo de auditoría externa que podría ser adoptado como referencia por autoridades que buscan asegurar la seguridad y alineación de los sistemas de IA.
Más información: OpenAI y Anthropic en Disrupt 2026: el nuevo paradigma de la IA.
Conclusión
La colaboración entre OpenAI y Anthropic para crear evaluadores de seguridad independientes busca mejorar la transparencia y la confianza en los sistemas de IA mediante auditorías externas. Si se implementa, esta propuesta podría establecer un nuevo estándar de supervisión en la industria.
Comunidad Chusmera (0)
Nadie ha hablado aún... ¡Sé el primero en compartir tus ideales!
💼 ESPACIO DESTACADO PARA MARCAS
Promocioná tu negocio, producto o servicio ante más de 103.000 lectores activos en Uruguay y el mundo.
📢 Cotizar Pauta Publicitaria🔥 LO MÁS LEÍDO DE HOY EN URUGUAY
Los Gadgets Más Virales y Novedades de Amazon
Descubrí los productos tendencia de TikTok y las ofertas más recomendadas con envíos internacionales.
🔥 Productos virales con mejores calificaciones · Ofertas del día · Garantía de compra protegida
Sumate al Canal Oficial de WhatsApp de El Chusmero
Recibí las noticias más importantes de Uruguay, cotizaciones del día y los virales del momento directo en tu teléfono. Sin spam.
✨ ¡Habla con nosotros! Comparte tus ideales