Esta Investigación de IA Explica los Rasgos de Personalidad Sintéticos en los Modelos de Lenguaje de Gran Escala (LLMs)

Esta investigación de IA explica los rasgos de personalidad sintéticos en los LLMs.

La personalidad de un individuo consiste en una combinación única de cualidades, características y formas de pensar. Moldea nuestras interacciones sociales y preferencias más fundamentales debido a nuestras historias biológicas y ambientales compartidas. Debido a su amplia exposición a datos generados por humanos durante el entrenamiento, los LLM pueden representar convincentemente personajes con apariencia humana en sus resultados y, en efecto, demostrar una personalidad sintética.

Debido a su amplia exposición a datos generados por humanos durante el entrenamiento, los LLM pueden representar convincentemente personajes con apariencia humana en sus resultados y, en efecto, demostrar una personalidad sintética. Investigaciones recientes han intentado identificar consecuencias no deseadas de las habilidades mejoradas de los LLM, como la tendencia a producir lenguaje violento y la producción de lenguaje engañoso y manipulador en experimentos. Las conversaciones, explicaciones y extracción de conocimiento de los LLM no siempre son confiables.

Comprender las propiedades relacionadas con los rasgos de personalidad del lenguaje creado por estos modelos es vital a medida que los LLM se convierten en la interfaz dominante de interacción entre humanos y computadoras (HCI), al igual que aprender cómo diseñar perfiles de personalidad generados por LLM de manera segura, apropiada y efectiva. Los investigadores han estudiado métodos que incluyen la presentación de ejemplos con pocos datos para disminuir el impacto de rasgos de personalidad negativos y graves en los resultados de los LLM. A pesar de que los LLM tienen salidas muy variables y son hiperreactivos a los ejemplos, aún no se ha abordado cómo cuantificar científica y sistemáticamente su personalidad.

Investigadores de Google DeepMind, la Universidad de Cambridge, Google Research, la Universidad Keio y la Universidad de California, Berkeley, proponen enfoques psicométricos rigurosos y verificados para caracterizar y moldear síntesis de personalidad basadas en LLM.

El equipo primero crea una metodología para utilizar pruebas psicométricas existentes previamente para establecer la validez de construcción de la caracterización de personalidades en la literatura generada por LLM. Presentan un enfoque novedoso para imitar la variación de la población en las respuestas de LLM a través de ejemplos controlados para probar las correlaciones estadísticas entre la personalidad y sus correlatos externos tal como existen en datos científicos sociales humanos. Finalmente, contribuyen con un método para moldear la personalidad que opera de manera independiente al LLM y produce cambios observables en los niveles de rasgos.

Los investigadores prueban el enfoque en LLM de diferentes tamaños y métodos de entrenamiento en dos entornos de interacción natural: MCQA (preguntas y respuestas) y generación de texto de formato largo. Los hallazgos muestran las siguientes observaciones:

  1. Los LLM pueden simular de manera confiable y válida la personalidad en sus resultados (bajo ciertas configuraciones de ejemplos).
  2. La evidencia de la confiabilidad y validez de la personalidad simulada por LLM es más sólida para modelos más grandes y ajustados con instrucciones.
  3. La personalidad en los resultados de LLM puede ser moldeada a lo largo de dimensiones deseadas para imitar perfiles de personalidad específicos.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Inteligencia Artificial

Una Bendición y un Monstruo Los Anunciantes Aceptan Cautelosamente la Inteligencia Artificial

Muchos anuncios son más fáciles de hacer con la tecnología en constante mejora. También representa una amenaza para u...

Inteligencia Artificial

Crea una tubería de inferencia de IA para imágenes médicas con MONAI Deploy en AWS

En esta publicación, te mostramos cómo crear un conector MAP para AWS HealthImaging, que es reutilizable en aplicacio...

Investigación

Entrenando máquinas para aprender más como lo hacen los humanos

Los investigadores identifican una propiedad que ayuda a los modelos de visión por computadora a aprender a represent...

Inteligencia Artificial

Conoce LMSYS-Chat-1M Un conjunto de datos a gran escala que contiene un millón de conversaciones del mundo real con 25 LLM de última generación.

Los grandes modelos de lenguaje (LLMs) se han vuelto fundamentales para diversas aplicaciones de IA, desde asistentes...

Inteligencia Artificial

La ciudad más avanzada tecnológicamente de Estados Unidos tiene dudas sobre los coches autónomos

Los funcionarios y residentes de San Francisco no están impresionados por los autos autónomos, subrayando los desafío...