La necesidad de un gradiente de explicabilidad en IA

El gradiente de explicabilidad en IA

Demasiado detalle puede resultar abrumador, pero un detalle insuficiente puede ser engañoso.

Foto de No Revisions en Unsplash

“Cualquier tecnología suficientemente avanzada es indistinguible de la magia” – Arthur C. Clarke

¡Con los avances en los autos autónomos, la visión por computadora y más recientemente, los modelos de lenguaje grandes, la ciencia a veces puede sentirse como magia! Los modelos se están volviendo cada vez más complejos cada día, y puede ser tentador agitar las manos en el aire y murmurar algo sobre retropropagación y redes neuronales al intentar explicar modelos complejos a una nueva audiencia. Sin embargo, es necesario describir un modelo de IA, su impacto esperado y posibles sesgos, y ahí es donde entra en juego la IA Explicable.

Con la explosión de métodos de IA en la última década, los usuarios han llegado a aceptar las respuestas que se les dan sin cuestionar. Todo el proceso del algoritmo a menudo se describe como una caja negra, y no siempre es sencillo o incluso posible comprender cómo el modelo llegó a un resultado específico, incluso para los investigadores que lo desarrollaron. Para generar confianza y seguridad en sus usuarios, las empresas deben caracterizar la equidad, la transparencia y los procesos subyacentes de toma de decisiones de los diferentes sistemas que emplean. Este enfoque no solo conduce a un enfoque responsable hacia los sistemas de IA, sino que también aumenta la adopción de la tecnología (https://www.mckinsey.com/capabilities/quantumblack/our-insights/global-survey-the-state-of-ai-in-2020).

Una de las partes más difíciles de la explicabilidad en la IA es definir claramente los límites de lo que se está explicando. Un ejecutivo y un investigador de IA no requerirán y aceptarán la misma cantidad de información. Encontrar el nivel adecuado de información entre explicaciones directas y todas las diferentes rutas posibles requiere mucho entrenamiento y retroalimentación. Contrariamente a la creencia común, eliminar las matemáticas y la complejidad de una explicación no la vuelve insignificante. Es cierto que existe el riesgo de simplificar demasiado y engañar a la persona haciéndole creer que tiene una comprensión profunda del modelo y de lo que puede hacer con él. Sin embargo, el uso de las técnicas adecuadas puede proporcionar explicaciones claras en el nivel adecuado que llevarían a la persona a hacer preguntas a otra persona, como un científico de datos, para continuar…

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Ciencia de Datos

Reinventando la experiencia de los datos Utilice la inteligencia artificial generativa y la arquitectura de datos moderna para desbloquear conocimientos.

Implementar una arquitectura moderna de datos brinda un método escalable para integrar datos de fuentes dispares. Al ...

Inteligencia Artificial

Científicos simulan la guerra de las hormigas utilizando el juego de ordenador Age of Empires

Científicos utilizaron el videojuego Age of Empires para simular la guerra de hormigas, en un esfuerzo por erradicar ...

Inteligencia Artificial

La IA detecta emisiones de metano desde el espacio

Una nueva herramienta de aprendizaje automático utiliza datos de satélites hiperespectrales para detectar automáticam...

Inteligencia Artificial

¿Son los cúbits de gato la clave para una computación cuántica confiable en la era moderna?

Los ordenadores cuánticos son propensos a errores debido a la sensibilidad de los qubits al ruido ambiental. ¿Pueden ...

Inteligencia Artificial

Este artículo de IA hace público HyperDreamer un avance en la creación de contenido 3D con texturizado avanzado, modelado de 360 grados y edición interactiva

No es fácil generar modelos en 3D detallados y realistas a partir de una sola imagen RGB. Investigadores del Laborato...

Ciencias de la Computación

Los EE. UU. están acumulando abiertamente información sucia sobre todos sus ciudadanos.

Un informe recientemente desclasificado de la Oficina del Director de Inteligencia Nacional revela que el gobierno fe...