La inteligencia artificial generativa se ha esparcido por el mundo adoptando múltiples facetas y descubriendo nuevas posibilidades salidas de una historia de ciencia ficción. Desde facilidades y adaptaciones curriculares, hasta creación de canciones, promete facilitar trabajos operativos, minimizando tiempo y aumentando la efectividad y productividad. Sin embargo, se han identificado algunos peligros inherentes a esta tecnología a considerar, pues es un desarrollo reciente.
Se encontró que la IA se entrena con datos provenientes de la red y por medio de determinados algoritmos se organizan los datos para dar respuesta a las pedidas de los usuarios, es decir, los “outputs”. El problema radica en que no hay una transparencia sobre la procedencia exacta de los datos ni sobre los algoritmos utilizados para entrenar la IA, esta es llamado “caja negra” en la literatura que trata el tema.
Al haber esa falta de claridad de la veracidad de la información y de la forma en la que la IA toma decisiones, genera una falta de confianza sobre la calidad de la información que genera y los sesgos que pueda tener. Estas y otras cuestiones importantes referentes a riesgos, limitaciones y beneficios de la IA se están debatiendo a nivel global en este instante. Por eso uno de los componentes del proyecto está en la búsqueda documental de este valioso debate.
Tú, ¿qué tanto confías en la información que la IA te provee?