Si bien es cierto se conoce como funciona la IA, al manejar decenas de miles de millones de parámetros con valores aleatorios, no se puede saber cómo interactúan, funcionan y cómo es que los datos se transforman, presentando una falencia de sus “redes neuronales”.
Por Dr. Julio Santiesteban Pablo
La carrera industrial de la Inteligencia Artificial (IA) está siendo salvaje. La sociedad y la comunidad científica están teniendo poca previsión de las consecuencias legales o éticas que pueden acarrear su uso y están liberando herramientas de IA con fines económicos pero sin ningún otro reparo.
Sin duda alguna la IA está transformando la industria, desde la generación de una simple imagen hasta la predicción y propuesta de tratamientos del cáncer y otras enfermedades. Pero la IA presenta alucinaciones que pueden generar respuestas imprevistas, no deseadas e ilegales. Por ejemplo, cuando un cliente solicitó una mezcla de aguas aromáticas a una IA en un supermercado de Nueva Zelanda este le dio la receta del famoso “gas mostaza”. Increíble ¿no?
El término inteligencia artificial se refiere al objetivo de una de las áreas de investigación de ciencia de la computación. En realidad, el término alternativo fue sistemas expertos. Recordemos que las herramientas de IA no son inteligentes en absoluto, sino que propiamente es una pseuda-inteligencia.
Esto permite entender el porqué de sus alucinaciones, debido a que en sus generaciones no hay un ejercicio estricto de la prudencia, por lo que estos modelos auto generativos de la IA no son predecibles. Si bien es cierto se conoce cómo funciona la IA, al manejar decenas de miles de millones de parámetros con valores aleatorios, no se puede saber cómo interactúan, funcionan y cómo es que los datos se transforman, presentando una falencia de sus “redes neuronales”. Parece razonable la necesidad de su regulación.
En el Perú tenemos la Ley N.º 31814 y Decreto de Urgencia N.º 007-2020, que promueven el uso adecuado de la IA desde un punto de vista muy general. De forma más rigurosa, por ejemplo, China ha establecido mediante la ley que empresas que usen IA deben de solicitar una licencia, permitiendo que el gobierno pueda acceder a todos los datos y código fuente de IA y permitiendo la cancelación de servicios de IA que vayan en contra de la ética y moral.
Por ejemplo, En la Unión Europea, Brasil, Chile, Argentina, la Organización para la Cooperación y Desarrollo Económico entre otros han desarrollado principios y recomendaciones en el uso y desarrollo de la IA, en donde el principal criterio es que toda persona que utiliza la IA debe hacerlo bajo las observancias y obligaciones que establece la ley. Si bien es cierto aún no hay nuevos tipos delictivos vinculados a la IA, quizá no vaya a ser un futuro muy distante su regulación. Preocupa que ante los complejos escenarios tecnológicos y éticos que acarrean la revolución de la IA, nuestro contexto nacional e internacional, cada vez más impulsa programas formativos profesionales ausentes de una sólida educación moral. Un profesional sin valores es como “un mono con dos pistolas” aunque esto suene grotesco. Sin duda, esta carrera industrial de la IA no parara, pero podemos asegurarnos que nosotros y nuestros hijos desarrollemos criterios prudentes para el acceso a estas tecnologías con el propósito de llevar a la humanidad a un buen puerto.
