Los hackers exploran formas de abusar de la IA en una importante prueba de seguridad

Hackers abusan IA en prueba seguridad

Los hallazgos iniciales se informarán a las Naciones Unidas el próximo mes en un esfuerzo por involucrar a más países en la conversación sobre la seguridad de la IA. ¶ Crédito: Axios

Casi 2,500 hackers en la conferencia DEFCON del AI Village pasaron el fin de semana pasado investigando y probando algunos de los modelos de lenguaje grandes más populares en busca de fallas.

El Desafío del Equipo Rojo Generativo del AI Village fue visto como un momento crucial para la industria tecnológica en general, que históricamente ha tenido dificultades para poner la seguridad en primer plano a medida que surgen nuevas innovaciones.

La demanda de pruebas, evaluación y pruebas de equipos rojos de LLM probablemente se multiplique por “10x” después del evento de fin de semana, según Russell Kaplan, jefe de ingeniería de Scale AI.

El desafío, respaldado por la Casa Blanca y varios desarrolladores importantes de IA generativa, hizo que algunos participantes esperaran una hora para asistir. Se espera que el trabajo del AI Village tenga una influencia significativa tanto en la industria de la ciberseguridad como en el mundo de las políticas.

De Axios Ver artículo completo

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Inteligencia Artificial

Hitos alcanzados en la nueva arquitectura de la computación cuántica

Los científicos han extendido el tiempo de coherencia para una clase única de bit cuántico (qubit) a 0.1 milisegundos...

Ciencia de Datos

12 Modelos Mentales para la Ciencia de Datos

En el campo en constante evolución de la ciencia de datos, las habilidades técnicas para manejar y analizar datos son...

Inteligencia Artificial

Este artículo de IA revela las implicaciones de ciberseguridad de los modelos de IA generativa riesgos, oportunidades y desafíos éticos'.

Los modelos de IA generativa (GenAI), como ChatGPT, Google Bard y GPT de Microsoft, han revolucionado la interacción ...

Inteligencia Artificial

Investigadores de OpenAI pioneros en modelos avanzados de consistencia para muestreo de datos de alta calidad sin entrenamiento adversario'.

Los modelos de consistencia representan una categoría de modelos generativos diseñados para generar datos de alta cal...

Ciencia de Datos

vLLM PagedAttention para una inferencia LLM 24 veces más rápida

En este artículo, explico qué es PagedAttention y por qué acelera significativamente la decodificación.