A partir del ChatGPT se popularizaron las soluciones basadas en Inteligencia Artificial (IA). Sin embargo, para la gran mayoría de personas esta tecnología es como una caja negra. ¿La IA es algo nuevo o existe hace mucho tiempo y ahora se puso de moda? ¿Cómo funciona y qué tanto intervienen las personas ? ¿La IA se “equivoca”? ¿Hay que desconfiar de ella?
Para responder estas preguntas, un equipo de especialistas de la Fundación Sadosky, elaboró la guía “10 preguntas frecuentes y urgentes sobre Inteligencia Artificial”. Este informe busca explicar cuestiones clave vinculadas a las características de la IA y brindar información sobre las formas en que se produce esta tecnología, algunos de los problemas más salientes que conllevan las soluciones basadas en IA y las implicaciones éticas de su desarrollo y uso, abordando el impacto en el ambiente, entre otras temáticas urgentes.
Desde que se popularizaron las herramientas de inteligencia artificial generativa como ChatGPT, Bart, Dall-e, etc muchos depositan la esperanza de que esta tecnología va a permitir solucionar problemas que hoy no se pueden resolver con facilidad y que esto sucederá en el corto plazo. Esta idea es alentada por los medios de comunicación y la publicidad de las empresas que desarrollan e implementan soluciones basadas en IA.
Pero ¿cuánto hay de mito y prejuicio en torno a la IA? ¿Todo lo que se genera a partir de esta es verdadero o correcto? ¿Qué sabemos del “detrás de cámara” de cómo funciona la IA? ¿Deberíamos desconfiar de lo que nos arroja como resultado? ¿Es cierto que el costo de la IA generativa es casi igual a 0? ¿Qué debe hacer la escuela ante el auge de la IA? ¿Afecta la diversidad cultural a la capacidad de las computadoras de generar contenido digital?
“Si bien el propósito es contribuir a la democratización del conocimiento especializado para que cada vez más personas puedan reflexionar informada y críticamente sobre el impacto de la IA” afirma la Coordinadora de la Iniciativa ProgramAR, Mara Borchardt, “las respuestas a las 10 preguntas elegidas no buscan dar por cerrado el tema. Se profundizan y muchas veces se complejizan los asuntos abordados presentando nuevas aristas que promuevan seguir investigando, pensando y discutiendo sobre aquello que aún es incierto”.
Para acceder al informe completo.
“Una de las cosas que más nos llamaba la atención era que el solo nombre ‘inteligencia artificial’ le atribuye a los sistemas un carácter humanoide, cognitivo, de certeza o con la capacidad para esgrimir un juicio, una cantidad de desempeños cognitivos que no hacen a las características de estos sistemas”, explica Borchardt, cuando se refiere a que, en realidad, la mayor parte de estos sistemas se basan en técnicas de aprendizaje automático, modelos predictivos entrenados con grandes masas de datos.
Precisamente, uno de los grandes problemas es que tanto esos datos como el diseño de los sistemas llevan consigo los sesgos de quienes los han generado, los seres humanos. “La tecnología no tiene capacidad de resolver lo que nosotros no podemos atender. Es más bien al revés: mucha tecnología es entrenada con bases de datos fuertemente sesgadas. Si uno mira los conjuntos poblacionales que tienen acceso a Internet, ya que sobre ese conjunto de datos se entrenan los sistemas, entonces vamos a a ver que se repiten esos sesgos de gente blanca, muy de clase media y en general masculinizada”, explica la coordinadora de ProgramAR. Y agrega: “Si vamos a usar sistemas creados por otros, tenemos que analizar qué impacto va a tener ese uso en los resultados que nos van a dar, y qué tan adaptados van a estar a nuestra realidad si los datos con los que fueron entrenados esos modelos no se corresponden con nuestra población”.
Otra de las preguntas que busca responder el documento es qué debe hacer la escuela ante el auge de la IA. El informe propone incorporar esta temática en las escuelas y hacerlo desde una perspectiva crítica y ética (tanto para usarla como para crearla). “Esto no es posible sin comprender cómo funcionan y han sido desarrolladas las aplicaciones y los dispositivos basados en IA”, se señala en el texto de la Fundación Sadosky. Borchardt considera que hay avances en este sentido en el sistema educativo local. “Si bien la educación en la Argentina es potestad de las provincias, también hay lineamientos nacionales e internacionales con recomendaciones para incorporar contenidos en computación e inteligencia artificial, y muchas provincias tienen líneas de trabajo para modificar la currícula de tecnología en las escuelas, de manera que permitan abordar estos temas”.
