La carrera para evitar el peor escenario para el aprendizaje automático

Race to prevent worst-case scenario for machine learning.

Rebecca Portnoff, directora de ciencia de datos de la organización sin fines de lucro Thorn, ha estado trabajando en aprendizaje automático y seguridad infantil durante más de una década. ¶ Crédito: Kristian Thacker / The New York Times

Dave Willner ha tenido una vista de primera fila sobre la evolución de lo peor de internet.

Comenzó a trabajar en Facebook en 2008, cuando las empresas de redes sociales estaban creando sus reglas sobre la marcha. Como jefe de política de contenido de la empresa, fue el señor Willner quien redactó las primeras normas comunitarias oficiales de Facebook hace más de una década, convirtiendo lo que él ha dicho era una lista informal de una página que en su mayoría se reducía a una prohibición de “Hitler y gente desnuda” en lo que ahora es un catálogo voluminoso de insultos, delitos y otras atrocidades que están prohibidas en todas las plataformas de Meta.

Por lo tanto, el año pasado, cuando el laboratorio de inteligencia artificial de San Francisco, OpenAI, se preparaba para lanzar Dall-E, una herramienta que permite crear instantáneamente una imagen describiéndola en pocas palabras, la empresa eligió al señor Willner para ser su jefe de confianza y seguridad. Inicialmente, eso significaba examinar todas las imágenes y sugerencias que los filtros de Dall-E señalaban como posibles violaciones, y descubrir formas de evitar que los posibles infractores tuvieran éxito.

No pasó mucho tiempo en el trabajo antes de que el señor Willner se encontrara considerando una amenaza familiar.

Del artículo completo de The New York Times

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Inteligencia Artificial

IA en movimiento

Si 2023 fue el año de los LLM (modelos de lenguaje grandes), entonces 2024 será el año de los LMM (modelos multimodal...

Inteligencia Artificial

Introducción al Aprendizaje Automático Explorando sus muchas formas

En estos días, el aprendizaje automático está en todas partes, ¿verdad? Si estás aquí, es muy probable que tengas cur...

Inteligencia Artificial

Bard El nuevo competidor de ChatGPT

En su constante búsqueda de optimizar la experiencia del usuario en la inteligencia artificial, Google ha introducido...

Inteligencia Artificial

El Cuadro de Búsqueda de Google Cambió el Significado de la Información

La búsqueda en la web prometía resolver preguntas. En cambio, trajo consigo un apocalipsis suave de la verdad.

Aprendizaje Automático

¿Qué sucede si ejecutas un modelo Transformer con una red neuronal óptica?

La escala exponencialmente creciente de los modelos de deep learning es una fuerza importante para avanzar en el esta...