AWS reafirma su compromiso con la IA generativa responsable

AWS reafirma compromiso IA generativa responsable

Como pionero en inteligencia artificial y aprendizaje automático, AWS se compromete a desarrollar e implementar AI generativo de manera responsable

Como una de las innovaciones más transformadoras de nuestro tiempo, el AI generativo sigue capturando la imaginación del mundo y seguimos comprometidos en aprovecharlo de manera responsable. Con un equipo de expertos dedicados a la AI responsable, complementado por nuestra organización de ingeniería y desarrollo, continuamente probamos y evaluamos nuestros productos y servicios para definir, medir y mitigar preocupaciones sobre precisión, equidad, propiedad intelectual, uso adecuado, toxicidad y privacidad. Y aunque no tenemos todas las respuestas en este momento, estamos trabajando junto con otros para desarrollar nuevos enfoques y soluciones para abordar estos desafíos emergentes. Creemos que podemos impulsar la innovación en AI y al mismo tiempo implementar las salvaguardas necesarias para proteger a nuestros clientes y consumidores.

En AWS, sabemos que la tecnología de AI generativo y cómo se utiliza seguirá evolucionando, planteando nuevos desafíos que requerirán atención y mitigación adicionales. Es por eso que Amazon está comprometido activamente con organizaciones y organismos de normalización enfocados en el desarrollo responsable de sistemas de AI de próxima generación, incluidos NIST, ISO, el Instituto de AI Responsable y la Partnership on AI. De hecho, la semana pasada en la Casa Blanca, Amazon firmó compromisos voluntarios para fomentar el desarrollo seguro, responsable y efectivo de la tecnología AI. Estamos ansiosos por compartir conocimientos con legisladores, académicos y la sociedad civil, ya que reconocemos los desafíos únicos planteados por el AI generativo que requerirán una colaboración continua.

Este compromiso es coherente con nuestro enfoque para desarrollar nuestros propios servicios de AI generativo, incluida la creación de modelos fundamentales (FMs) teniendo en cuenta la AI responsable en cada etapa de nuestro proceso integral de desarrollo. En el diseño, desarrollo, implementación y operaciones, consideramos una serie de factores que incluyen 1/ precisión, por ejemplo, qué tan cerca coincide un resumen con el documento subyacente; si una biografía es correcta en términos de hechos; 2/ equidad, por ejemplo, si las salidas tratan a los grupos demográficos de manera similar; 3/ consideraciones de propiedad intelectual y derechos de autor; 4/ uso adecuado, por ejemplo, filtrar las solicitudes de los usuarios de consejos legales, diagnósticos médicos o actividades ilegales; 5/ toxicidad, por ejemplo, discurso de odio, lenguaje obsceno e insultos; y 6/ privacidad, por ejemplo, proteger información personal y solicitudes de los clientes. Creamos soluciones para abordar estos problemas en nuestros procesos de adquisición de datos de entrenamiento, en los propios FMs y en la tecnología que utilizamos para preprocesar las indicaciones de los usuarios y posprocesar las salidas. Para todos nuestros FMs, invertimos activamente para mejorar nuestras características y aprender de los clientes a medida que experimentan con nuevos casos de uso.

Por ejemplo, los FMs de Titan de Amazon están diseñados para detectar y eliminar contenido dañino en los datos que los clientes proporcionan para la personalización, rechazar contenido inapropiado en la entrada del usuario y filtrar las salidas del modelo que contienen contenido inapropiado (como discurso de odio, lenguaje obsceno y violencia).

Para ayudar a los desarrolladores a crear aplicaciones de manera responsable, Amazon CodeWhisperer proporciona un rastreador de referencia que muestra la información de licencia de una recomendación de código y proporciona un enlace al repositorio de código abierto correspondiente cuando sea necesario. Esto facilita que los desarrolladores decidan si usar el código en su proyecto y realizar las atribuciones de código fuente relevantes según consideren adecuado. Además, Amazon CodeWhisperer filtra las recomendaciones de código que incluyen frases tóxicas y recomendaciones que indican sesgo.

A través de servicios innovadores como estos, continuaremos ayudando a nuestros clientes a aprovechar los beneficios de la AI generativa, al tiempo que colaboramos con los sectores público y privado para asegurarnos de hacerlo de manera responsable. Juntos, construiremos confianza entre los clientes y el público en general, a medida que aprovechamos esta nueva tecnología transformadora como una fuerza para el bien.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Inteligencia Artificial

Eso es gracioso, pero los modelos de IA no entienden la broma.

Un equipo multi-institucional de científicos probó la capacidad de los modelos de inteligencia artificial para entend...

Inteligencia Artificial

¿Se entienden Do Flamingo y DALL-E? Explorando la simbiosis entre los modelos de generación de subtítulos de imágenes y síntesis de texto a imagen

La investigación multimodal que mejora la comprensión de la computadora de texto e imágenes ha avanzado mucho recient...

Inteligencia Artificial

Equilibrando la innovación y la sostenibilidad Desentrañando el impacto ambiental de la IA generativa

La asociación francesa Data for Good publicó un documento blanco que explora los problemas sociales y ambientales que...

Inteligencia Artificial

Conoce a Falcon 180B El modelo de lenguaje más grande disponible públicamente con 180 mil millones de parámetros

La demanda de modelos de lenguaje potentes y versátiles se ha vuelto más apremiante en el procesamiento del lenguaje ...

Inteligencia Artificial

¡No, no, no lo pongamos ahí! Este método de IA puede realizar edición de diseño continua con modelos de difusión

En este punto, todos están familiarizados con los modelos de texto a imagen. Se hicieron conocidos con el lanzamiento...