Las personas contratadas para entrenar a la inteligencia artificial están subcontratando su trabajo… a la inteligencia artificial.

People hired to train AI are subcontracting their work to AI.

El estudio destaca la necesidad de nuevas formas de verificar si los datos han sido producidos por humanos o por IA. ¶ Crédito: Stephanie Arnett/MIT Technology Review/Getty

Una proporción significativa de personas contratadas para entrenar modelos de IA pueden estar subcontratando ese trabajo a la IA, según un nuevo estudio.

Se necesita una cantidad increíble de datos para entrenar sistemas de IA para realizar tareas específicas de manera precisa y confiable. Muchas empresas pagan a trabajadores en plataformas como Mechanical Turk para completar tareas que suelen ser difíciles de automatizar, como resolver CAPTCHAs, etiquetar datos y anotar texto. Luego, estos datos se alimentan a modelos de IA para entrenarlos. Los trabajadores reciben poco pago y se espera que completen muchas tareas muy rápidamente.

Los grandes modelos de lenguaje están llenos de vulnerabilidades de seguridad, pero se están incorporando a productos tecnológicos a gran escala.

No es de extrañar que algunos de ellos recurran a herramientas como ChatGPT para maximizar su potencial de ganancias. Pero, ¿cuántos? Para averiguarlo, un equipo de investigadores del Instituto Federal Suizo de Tecnología (EPFL) contrató a 44 personas en la plataforma de trabajo gig Amazon Mechanical Turk para resumir 16 extractos de artículos de investigación médica. Luego, analizaron sus respuestas utilizando un modelo de IA que habían entrenado ellos mismos que busca señales reveladoras de la salida de ChatGPT, como la falta de variedad en la elección de palabras. También extrajeron las pulsaciones de teclas de los trabajadores para determinar si habían copiado y pegado sus respuestas, un indicador de que habían generado sus respuestas en otra parte.

Desde MIT Technology Review Ver artículo completo

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Ciencia de Datos

Revelando el Precision@N y Recall@N en un Sistema de Recomendación

Las métricas de precisión son una métrica útil para evaluar el rendimiento general en el aprendizaje automático, ya q...

Inteligencia Artificial

EE.UU. busca malware chino que podría interrumpir las operaciones militares

Funcionarios de seguridad de Estados Unidos dicen que la Casa Blanca está buscando malware supuestamente oculto por C...

Inteligencia Artificial

Google DeepMind presenta una nueva herramienta de IA que clasifica los efectos de 71 millones de mutaciones 'missense

El mayor desafío en la genética humana es sin duda la complejidad del genoma humano y la vasta diversidad de factores...

Inteligencia Artificial

Esta investigación de IA presenta Photo-SLAM Elevando el mapeo fotorealista en tiempo real en dispositivos portátiles

En visión por computadora y robótica, la localización y mapeo simultáneos (SLAM, por sus siglas en inglés) con cámara...

Inteligencia Artificial

Esta semana en IA, 31 de julio de 2023

Esta semana en IA en VoAGI proporciona un resumen semanal de los últimos acontecimientos en el mundo de la Inteligenc...