Cómo exactamente un modelo para una decisión a menudo no es comprensible, por ejemplo, un hecho que dificulta el uso en medicina. El nuevo centro DFKI en Kaiserslautern quiere crear transparencia.
Los modelos de IA pueden resolver tareas cada vez más complejas. Pero con muchas aplicaciones de inteligencia artificial hay un problema de que las decisiones no pueden entenderse. Estamos hablando de una especie de caja negra. Si la inteligencia artificial procesa la información, el camino a la solución es casi siempre secreto.
Por lo tanto, el Centro de Investigación Alemán de Inteligencia Artificial (DFKI) ha abierto un nuevo centro de innovación junto con la Academia de Tecnología alemana: el Centro de Innovación de Innovación y AI de IA en Kaiserslautern. Aquí quieren hacer que la IA sea más transparente y desarrollar estándares de calidad confiables.
El enfoque de los nuevos proyectos AI debería ser una transparencia más fuerte
Una parte importante de la investigación es desarrollar aplicaciones de inteligencia artificial que funcionen de manera transparente. «Explicar los resultados de tal manera que sea aceptable como una segunda opinión es muy esencial», explica Andreas Dengel, CEO de DFKI en Kaiserslautern.
Un proyecto DFKI actual está desarrollando una tecnología para cumplir con los pronósticos de colección basados en satélite a través de la inteligencia artificial. Para hacer esto, evalúe los datos meteorológicos, los datos sobre la calidad del suelo, la información agronómica sobre las fases de crecimiento de las plantas y los modelos de altura digital. De esta manera, el equipo de investigación quiere permitir el pronóstico más preciso posible. Los pronósticos de IA deberían ayudar a hacer frente a la crisis y aumentar la rendición.
Los pronósticos le permiten operar la agricultura hacia adelante y adoptar medidas preventivas para aumentar o hacer frente a la crisis. En consecuencia, los agricultores podrían adaptar mejor el riego, la fertilización o la protección de los cultivos. Al mismo tiempo, los pronósticos de colección exactos parecería planificación económica.
Sin embargo, la consideración precisa de las medidas requiere que los pronósticos sean transparentes. Sin poder comprender el proceso de decisión, los agricultores no han podido descubrirlo, por lo que existe el riesgo de una posible falla de los cultivos. Por lo tanto, el análisis visual de la IA se puede controlar manualmente y las decisiones son más fáciles de entender.
Las aplicaciones de AI Medica ya apoyan el diagnóstico
Además, la IA también se usa en medicina. En el Hospital Universitario de Mainz, la inteligencia artificial ya está ayudando a reconocer mejor el cáncer. Basado en muestras de tejido de la glándula tiroides, la IA puede reconocer si es un tumor o no. Esto es particularmente ventajoso si el tejido sano puede ser difícil de diferenciar del tejido patológicamente modificado.
La inteligencia artificial puede ofrecer un valioso apoyo, pero es particularmente importante en el campo de la medicina que se pueda rastrear y verificar una decisión de IA. Al mismo tiempo, los resultados digitales también se pueden comparar con otras clínicas y, por lo tanto, mejor controlados. Sin embargo, todavía hay una manera de comprender el proceso de decisión.
Aplicación de reconocimiento de Enfermedades de la piel
En otro proyecto, la inteligencia artificial ayuda a detectar el cáncer de piel y otras enfermedades de la piel. DFKI ha desarrollado una aplicación para esto para reconocer las enfermedades de la piel. Es importante para los desarrolladores que la aplicación sea fácil de usar. También existe la posibilidad de proporcionar otros síntomas, como enrojecimiento o hinchazón.
Por lo tanto, un análisis de IA realiza un diagnóstico basado en estos datos y proporciona explicaciones para la decisión. De esta manera, los resultados deben ser comprensibles y controlables. El personal especialista médico también puede reconocer un diagnóstico potencial incorrecto.
Las aplicaciones de inteligencia artificial deben usarse para pruebas y prisión
Por ejemplo, la confianza y la seguridad son cruciales cuando la policía usa la IA para buscar evidencia en discos rígidos. Sin embargo, si los datos no se pueden leer, el IA debería ayudar a combinar fragmentos de archivos. Para esto, DFKI trabaja con la Oficina de Policía Criminal del Estado y la Oficina Federal de Policía Penal.
Según DFKI, la policía debería poder restaurar los archivos de imágenes en discos rígidos destruidos en un año policial. Por lo tanto, estos podrían usarse frente a los tribunales. Sin embargo, solo si cada paso de la IA es comprensible. Por lo tanto, el proceso de decisión de decisión debe ser reproducible y conducir al mismo resultado.
Ki «hecho en Alemania»
Los investigadores de Kaiserslautern también quieren desarrollar criterios de prueba para aplicaciones de inteligencia artificial, similar a un sello Tüv. Al final, las solicitudes a la IA deben obtener un sello de aprobación correspondiente. El objetivo de DFKI en Kaiserslautern es: para lo confiable «hecho en Alemania».
La investigación continua crea un estándar para aplicaciones confiables de inteligencia artificial en Kaiserslautern. El objetivo es desarrollar una plataforma de prueba con herramientas que permitan a los productores y estructuras controlar y determinar la calidad y la confiabilidad de la IA.
Durante el «Mission Ki» DFKI es el primero de los dos centros de investigación planificados. El proyecto fue apoyado por el gobierno federal con un presupuesto total de 32 millones de euros. El gobierno federal quiere promover el desarrollo de una nueva inteligencia artificial confiable.
