El uso ético de la inteligencia artificial de código

abierto en educación universitaria

Christian Jonathan Ángel Rueda1
Jorge Landaverde Trejo2
1
Universidad Autónoma de Querétaro
2
Universidad Marista de Querétaro

Correspondencia: [email protected] [email protected]

RESUMEN ABSTRACT

Esta propuesta, de carácter exploratorio, invita a This exploratory proposal invites you to participate in a
participar en un conversatorio: la emergencia de un conversation: the emergence of a new paradigm capable of
nuevo paradigma que sea capaz de enfrentar los retos y facing the challenges and risks derived from an avalanche
riesgos derivados de una avalancha de intentos por of attempts to discover patterns underlying the chaos
descubrir patrones subyacentes al caos provocado por caused by developments around generation,
los desarrollos en torno a la generación, implementación implementation and use of Open Source Artificial
y uso de la Inteligencia Artificial de Código Abierto Intelligence (OS-AI). The perspective adopted in these
(IA-CA). La perspectiva adoptada en estas reflexiones reflections is open to transdisciplinarity to influence the
es abierta a la transdisciplinariedad para incidir en el university environment. The aim is not to issue solutions
ámbito universitario. El fin no es emitir soluciones, sino but to envision ethical-hermeneutical structures that
vislumbrar estructuras ético-hermenéuticas que support the decision-making of the different actors in
fundamenten las tomas de decisiones de los diferentes university life, which should prevail beyond the dominant
actores en la vida universitaria, lo cual debería influence of technocratic determinism. The novelty of this
prevalecer más allá de la influencia dominante del concern lies not in the subject, but in the analytical
determinismo tecnocrático. La novedad de esta approach from which the context of Stable Diffusion and
preocupación radica no en el tema, sino en el enfoque its OS-AI launch strategy are dimensioned. The context to
analítico desde el cual se dimensiona el contexto de which we refer is called "deep learning" through AI (not to
Stable Diffusion y su estrategia de lanzamiento de la IA- be confused with the problems derived from symbolic AI),
CA. El contexto al que nos referimos se denomina and it is from there that we seek to discover the benefits
“aprendizaje profundo” mediante las IA (no confundirlo and risks of a development that, although it fascinates us,
con las problemáticas derivadas de la IA simbólica). Es can also lead us -both teachers and students – to the dark
a partir de ahí desde donde se busca descubrir bondades side of AI for neglecting our training in navigating cyber
y riesgos de un desarrollo que, si bien nos fascina, spaces. This proposal is to debate about agendas in
también puede llevarnos —tanto a docentes como a accordance with the needs of the academy, the curation of
estudiantes— al lado oscuro de la IA por descuidar accredited sources of information and, above all, the
nuestra formación en la navegación por espacios organization of our society from rational and reasonable
cibernéticos. Esta propuesta es para debatir en torno a arguments.
agendas acordes con necesidades de la academia, la
curaduría de fuentes acreditadas de información y, Key words: deep learning, open source, Ethics-
especialmente, la organización de nuestra sociedad Hermeneutics, artificial intelligence
desde argumentos racionales y razonables.
Artículo arbitrado
Palabras Clave: aprendizaje profundo Recibido: Aceptado:
código abierto, ética- hermenéutica, inteligencia artificial
15 de octubre de 2022 16 de noviembre de 2022

85 | Revista Nthe, número 40, septiembre – diciembre de 2022: pp. 85 - 96, ISSN: 2007-9079
El uso ético de la inteligencia artificial de código abierto en educación universitaria

particular, se encuentran en conflicto con los

intereses corporativos y/o institucionales. Pero
1 INTRODUCCIÓN ¿cuál es el sentido de plantear esta polémica
El sistema educativo se encuentra en el umbral discusión?
del uso de la Inteligencia Artificial de código El desafío para la implementación –actual
abierto (IA-CA). La aparición de las IA-CA en o futura– de IA-CA en la educación, genera
las aulas universitarias ha generado una serie de serias distorsiones socio-éticas, pues involucra a
controversias entre los profesionales. Entre ellas toda una serie de "actores" en el ámbito de las
se encuentra la obligatoriedad de tener licencias nuevas tecnologías: desde profesionales de
específicas para implementar dicha tecnología y investigación y tecnología hasta agentes
sobre el papel que deben jugar los estudiantes y académicos del sistema educativo en sus
los docentes al respecto. diferentes contextos. Entonces ¿cómo adecuar
Inmediatamente, salta el cuestionamiento los esquemas de desarrollo de IA-CA en las aulas
sobre la obligatoriedad de hacer uso de las universitarias a un sistema ético de
licencias Open RAIL-M1 para trabajar con IA- responsabilidad compartida? En esta
CA en las aulas, lo cual enlaza con otra pregunta: investigación se busca dar cuenta de cómo el
¿qué se debe y no se debe hacer con la IA-CA en desarrollo y uso de IA-CA dentro del sistema
los espacios áulicos? Las respuestas a dichas educativo, puede llevarse a cabo con un enfoque
preguntas son multifacéticas. Desde una ético y con responsabilidad compartida al
perspectiva empresarial o gubernamental, la considerar las distintas relaciones entre la
respuesta suele enfocarse en estrategias de tecnología, las políticas educativas y la sociedad.
sustentabilidad para financiar las nuevas Resulta pertinente analizar el contexto de
tecnologías y, en el caso de las instituciones lo sucedido el 22 de agosto de 2022, cuando IA-
educativas, ésta se concentra en encontrar CA de Stable Diffusion, creada por la empresa
mejores formas de aprovecharlas desde el stability.ai, se liberó al uso público con la
principio ético de beneficencia para los diversos característica de adecuarse a los intereses del
procesos pedagógicos. El presente trabajo trata usuario con la flexibilidad de editar el código y
de señalar que el desarrollo y uso de IA-CA desarrollar herramientas en otras áreas para las
dentro del sistema educativo, convendría hacerse que no fueron diseñadas ni pensadas desde el
con un enfoque ético-hermenéutico que inicio, sin restricciones éticas o morales. De esta
conduzca a asumir la propia responsabilidad manera, se abrió la posibilidad para que algunas
compartida. Esta investigación tiene como acciones sean generadas contra el principio ético
objetivo aportar en la construcción de un modelo de no-maleficencia, por lo cual es importante
ético para el uso de la IA-CA en las aulas tener una normatividad de cómo debe llevarse a
universitarias. cabo el uso de IA-CA en las aulas.
Desde un enfoque ético-hermenéutico se Es necesario considerar las dos esferas en
considera que La Inteligencia Artificial de las cuales conviene articular el modelo ético de
Código Abierto con restricciones de uso responsabilidad compartida: primero, la esfera de
conductual (Open RAIL Artificial Intelligence), la ciencia y, segundo, la de responsabilidad ética.
propicia la construcción de un nuevo paradigma La factibilidad de una actitud ética que
de programación. Un ejemplo bastante particular articule una praxis consciente de la
del desarrollo y uso de IA es el que se da en las responsabilidad compartida, implica abrir
aulas universitarias, en donde la libertad en espacios de reflexión entre los actores de estos
general, así como la libertad de los estudiantes en dos ámbitos, para así buscar posibles vías de
1 Son licencias con restricciones de uso conductual que se pueden aplicar a cualquier modelo de IA (licenses.ai, 2022).
86 | Revista Nthe, número 40, septiembre – diciembre 2022: pp. 85 - 96, ISSN: 2007-9079
 Christian Jonathan Ángel Rueda et al., Nthe, núm. 40, pp. 85 - 96

negociación entre el campo académico, hermenéutico de la comprensión inicial y el

empresarial y gubernamental en torno a las análisis explicativo se encuentran en un
formas de planeación y control del desarrollo de horizonte que permite vislumbrar un futuro
las propuestas tecnocientíficas como la IA-CA, posible y probable; y en donde el control en las
entre otras. tomas de decisiones lleve un sello que otorgue su
Esta investigación pugna por una debida importancia a la deliberación
intervención, dentro de la dimensión ética del ser reglamentada con códigos éticos consensuados y
humano, para pensar el presente estado de la compartidos, con el fin de brindar escenarios de
educación y contribuir al estudio sobre el igualdad solidaria entre los actores involucrados
desarrollo y uso de IA con licenciamientos de en el ejercicio ético-hermenéutico que implica
código abierto en las aulas universitarias. Se tanto la investigación como la intervención.
entiende que hay una serie de problemáticas La herramienta sociocultural “connected-
socio-éticas y políticas que es necesario analizar papers” ha sido utilizada para identificar las
para enfrentarlas. tendencias en torno al problema que nos ocupa.
El análisis de los textos se realizó por medio de
2 METODOLOGÍA la técnica de aproximación al corpus lingüístico-
El presente trabajo de investigación forma parte textual etiquetado, para descubrir los nodos
de un diseño múltiple de investigación, el cual se semánticos que nos ayudarán a develar los
deriva de la línea de generación y aplicación del patrones y tendencias de los sistemas de razón
conocimiento denominada “Ética deliberativa y contemporáneos.
solidaria”, que se enfoca en el desarrollo de un
modelo ético-hermenéutico para la promoción de 2.1 Comprensión inicial del uso de la IA-CA
una praxis de responsabilidad compartida que, en con apoyo en diversos autores
este caso, se refiere al uso de la IA en la Para la comprensión inicial del campo
enseñanza superior (The multi-baseline research problemático que nos ocupa, es necesario iniciar
design). Mediante el análisis de los principales con una conceptualización del problema en un
escenarios educativos en curso y de las nuevas ejercicio paralelo para su delimitación y
tecnologías emergentes, se abordan las distintas contextualización. Nos referimos,
relaciones entre la tecnología, las políticas específicamente, al uso de la inteligencia
educativas y la sociedad. artificial de código abierto en el ámbito de la
El itinerario metodológico de este trabajo educación.
se fundamenta en el arco hermenéutico propuesto Sobre el concepto de IA, en sentido
por Paul Ricoeur (2010), el cual se construye a general, se relaciona con aquellos programas que
través de tres fases: 1) se parte de la explicitación ‘imitan’ la conducta humana, basados en una
de una comprensión inicial del campo amplia gama de datos; que brinda eficiencia y
problemático que nos ocupa hasta llegar a la rapidez al análisis de un cúmulo de datos para la
tipificación del problema en construcción; 2) se solución de problemas mediante un aprendizaje
procede a dimensionar el impacto del problema estratégico requiriendo o prescindiendo de la
en el ámbito educativo, mediante al análisis de supervisión humana. Sin embargo, Haelen y
las relaciones existentes entre las partes que Kaplan (2021) la definen como: “[…] un sistema
componen el todo en busca de patrones que interpreta y aprende correctamente de datos
encriptados y las consecuentes externos, para lograr resultados específicos a
responsabilidades inherentes a la acción de través de una adaptación flexible” (Haelen y
indagación e intervención; y 3) se procura una Kaplan, 2021 en Chan, 2022, p. 3).
síntesis o comprensión integral: el arco El vocablo "sistema" hace referencia, más

87 | Revista Nthe, número 40, septiembre – diciembre de 2022: pp. 85 - 96, ISSN: 2007-9079
El uso ético de la inteligencia artificial de código abierto en educación universitaria

que a los sistemas tecnológicos -llámense software algorítmico, el cual permite predecir y
algoritmos o conjuntos de datos de la GPT-3- a reaccionar ante situaciones imprevistas
los sistemas socio-tecnológicos implicados en la sustentados en resultados anteriores. Esto se
generación y uso de las IA. El sistema no se realiza a través del reconocimiento de patrones y
limita a los sistemas tecnológicos (como el modelos analíticos para realizar ajustes sin previa
hardware, los algoritmos y los conjuntos de datos programación de la máquina. Dicho aprendizaje
de GPT-3). automático, dependiendo del etiquetado de los
El vocablo “sistema” hace referencia a los datos, puede ser supervisado, semi-supervisado o
sistemas socio-tecnológicos implicados en la no supervisado por el humano.
generación, implementación y uso de la IA. Esto A partir del modelo de aprendizaje
significa considerar a los actores humanos como automático se ha llegado hasta los llamados
esenciales en el desarrollo y regulación de la IA, modelos de aprendizaje profundo, los cuales
especialmente en los modelos de lenguaje de IA- procesan grandes cantidades de datos,
CA. generalmente no supervisados, mediante una
En relación con los usos de la IA, se amplia gama de redes neuronales artificiales.
considera que pueden orientarse hacia la Estas IA superan las capacidades humanas (en
automatización, la predicción y el control de cuanto al procesamiento del lenguaje natural) y
procesos, los cuales pretenden incidir en realizan sus tareas mediante el análisis de
innovación, competitividad y producción óptima. conversaciones y el reconocimiento de imágenes a
En el informe de investigación 451 de Hewlett partir de videos usados para vigilar cuestiones
Packard Enterprise (2019) se describen dos operativas y, de esta manera, detectar identidades
categorías de IA, a saber: y lugares geográficos.
- La IA Basada en Funcionalidad, la cual Por otra parte, es importante identificar el
echa mano de información acumulada para grado de responsabilidad ética de los diversos
presentar mejores opciones, pero no tiene actores involucrados en la generación y desarrollo
capacidad para aprender de acciones de máquinas con IA, esto en cuanto al uso de las
pasadas. Un ejemplo de este tipo de IA es mismas para beneficio y no maleficio de todas las
el localizador GPS. partes involucradas. Aquí es donde se cuestiona la
- La IA Basada en Capacidades, la cual postura de quienes ignoran la necesidad de que, la
presenta tres modalidades: 1) la sociedad en general y los expertos en particular,
Inteligencia Artificial Estrecha, que definan su postura ética y reconozcan su grado de
combina una memoria reactiva para responsabilidad en el desarrollo de tecnologías y
realización de tareas simples; 2) la su repercusión en las vidas humanas y demás seres
Inteligencia Artificial General, la cual que cohabitan en el planeta Tierra. Se trata de
tiene capacidad de aprender, enseñar, una responsabilidad que necesita de un estudio a
entender y simular al humano; y 3) la fondo sobre: 1) el número, tipo y características de
Super Inteligencia Artificial, cuyo las máquinas que se van a implementar; 2) la
desempeño, además del procesamiento de aplicación que se le dará a las mismas y el objetivo
datos y su almacenamiento, es capaz de beneficioso al que sirven; y 3) el grado de
tomar decisiones similares al del ser automatización, autonomía y su uso competitivo.
humano promedio. Como lo menciona Chan (2022), la mala
aplicación de IA-CA puede debilitar la posibilidad
Una de las características más destacadas del de la autonomía personal o grupal al alentar a las
desarrollo de máquinas con IA, es la relacionada personas a actuar con fines que no son los suyos o
con el Aprendizaje Automático con base en un por razones que no han construido. En el caso de

88 | Revista Nthe, número 40, septiembre – diciembre 2022: pp. 85 - 96, ISSN: 2007-9079
 Christian Jonathan Ángel Rueda et al., Nthe, núm. 40, pp. 85 - 96

la IA-CA, su uso puede conducir a una serie de de carácter eficientista y mercantilista.Le subyace
productos y servicios que promueven el una lógica interna de "eficiencia, economía
desplazamiento de trabajadores por la mercantil, innovación, progreso" que justifica y
automatización (las máquinas programadas sin perpetúa esta visión. Como Colman (2005) señala,
apoyo humano: robots), la disposición para la desde un enfoque ético, es posible construir una
reestructuración de otros sectores industriales visión más amplia de la evolución de la tecnología
(comercio) y los cambios en la lógica mental del en todos los ámbitos y su impacto económico y
consumidor. Incluso, se abre la posibilidad de social sin recurrir a metáforas reduccionistas ni
relevar a los docentes por algoritmos. maniqueas. La tecnología es sólo un instrumento
De lo anterior, surge el riesgo de un uso y es el ser humano el único responsable de la
indebido de la IA. A esto se suma el tipo de diseño innovación liberadora.
humano y aplicación de los programas basados en Finalmente, se presenta una visión
IA que, junto con la carencia de formación ética distópica que considera a la tecnología como una
por parte de los actores involucrados con dicha amenaza imposible de enfrentar a no ser que se le
tecnología, puede socavar la autonomía al alentar obstaculice su avance.
a las personas a actuar con fines que no son los
suyos o por razones que no son de su elección. 2.2 Análisis de las relaciones existentes entre las
De acuerdo con Chan (2022), el partes que componen el todo del problema en
determinismo tecnológico está estrechamente busca de patrones subyacentes y
relacionado con una percepción poco informada responsabilidades inherentes a la acción de
de los alcances del desarrollo tecnocientífico y, en indagación e intervención
el caso específico de este trabajo, del desarrollo de
la inteligencia artificial. Dicha autora, hace la Con el fin de construir una visión más amplia de
distinción entre una visión utópica ingenua, la cual la evolución de la tecnología y llegar a
sólo aprecia las bondades de la tecnología y, en el dimensionar su impacto en ámbitos como el
otro extremo, una visión distópica que solo ve social, político, económico y, en el caso de este
amenazas a las libertades humanas derivadas de estudio, el ámbito educativo, es preciso identificar
una tecnología sin control. las fuerzas conflictivas subyacentes, así como
En un estudio analítico sobre las asumir las responsabilidades derivadas de los
soluciones éticas, en respuesta a los riesgos y planes de indagación e intervención pertinentes
beneficios que representan los modelos de para actuar con razón y razonabilidad.
lenguaje de inteligencia artificial abierta, tales En el caso de un método operativo basado
como el Transformador pre-entrenado para en la ética-hermenéutica, donde se considera que
generar lenguaje similar al humano, versión 3 la intervención del ser humano, supone la creación
(Generative Pre-trained Transformer-3: GPT-3), o de espacios de debate que opten por una agenda
el modelo de lenguaje Transformador Instruido y temática acorde con los intereses y necesidades
pre-entrenado para generar lenguaje similar al del ámbito correspondiente (educativo); la
humano (Instruct Generative Pre-trained curaduría de las fuentes de información y la
Transformer: InstructGPT). La autora Chan organización del entorno de trabajo-estudio de
(2022) critica el determinismo tecnológico acuerdo con argumentos racionales y razonables.
representado por dos visiones contrapuestas: por Se observa que los procesos automatizados
un lado, se presenta una visión utópica que presentan el riesgo de generar problemas éticos en
considera la tecnología como una herramienta de las instituciones educativas, como la falta de
control humano que facilita la acción autónoma. transparencia y explicabilidad de los algoritmos de
La lógica subyacente a la visión utópica es la AI (Floridi et al. (2019), en LaGrandeur, 2021,

89 | Revista Nthe, número 40, septiembre – diciembre de 2022: pp. 85 - 96, ISSN: 2007-9079
El uso ético de la inteligencia artificial de código abierto en educación universitaria

pág. 699) lo cual se manifiesta en la toma de de la IA-CA y, a su vez, la sociedad puede

decisiones por parte de la IA o en la reducción del generar una vigilancia de las instituciones
control humano. También puede surgir una educativas que la operan.
evasión de responsabilidad por parte de los •La participación de los alumnos y
"operadores", como es el caso de un programador docentes en la toma de decisiones puede permitir
quien no tiene disposición para evaluar las que ambos logren construir su autonomía con el
consecuencias que genera su acción. El problema uso de la IA-CA. Asimismo, esto se convertiría
es que, en caso de una desviación del en una apuesta a su desarrollo como seres
comportamiento previsible, la IA podría aplicar humanos, ya que cada alumno podría
criterios diferentes a los esperados por el involucrarse en el manejo de estos temas.
programador o, en su caso, por los operadores. El Entonces surge la pregunta sobre cómo
operador ejercería su control de acuerdo con los plantear una perspectiva humanista digital para
valores humanos, pero estos pueden ser distintos a abonar a la ética en el uso de la IA-CA. Es
los programados en la IA. El programador necesita importante aclarar que debido al escaso avance
identificar los datos relacionados con el valor y hacia el despliegue de una IA-CA configurada de
entender su alcance. Si estos valores son acuerdo con los parámetros éticos planteados por
diferentes, entonces el programador podría la comunidad internacional, resulta necesario
desviarse de su propósito original. El operador retroalimentar o complementar la filosofía ética
puede preferir una evaluación basada en la y moral existente, ya que actualmente no es
"razonabilidad" del comportamiento humano, por suficiente para controlar la IA-CA.
ejemplo: si la respuesta es errónea en un preciso
momento, se puede prever que va a tener una 2.3 Comprensión integral para vislumbrar un
forma similar de reaccionar en el futuro, como lo futuro posible y probable
mencionan Nallur, Lloyd y Pearson (2021).
En este escenario tecnológico, nos En la tercera fase del arco hermenéutico se plantea
encontramos con una IA-CA capaz de desplegar acceder a una comprensión profunda del problema
aprendizaje profundo sin límites éticos para el advenimiento de un adecuado uso ético de
controlados en su uso; en consecuencia, la IA-CA; para nuestro caso, el ámbito de la
tendremos que intentar resolver retos imprevistos educación universitaria.
en las instituciones educativas. Los problemas de Ahora bien, si analizamos y proponemos
eficiencia y libertades individuales en el caso de una reglamentación en el uso ético de la IA-CA en
una IA-CA también conducen a preguntas éticas educación universitaria dentro de un contexto
importantes referidas a la autonomía. Esto global, podemos observar distintas variantes de
significa una concentración del poder en los acuerdo con el contexto regional, como son los
operadores, quienes crean valores que luego son aspectos social, político y económico con una
compartidos por la IA-CA. En este escenario, no perspectiva globalizada en una construcción ética
se puede entender por qué la IA-CA desarrollaría y moral de la IA-CA.
una visión de valores diferentes del operador El código ético de la IA-CA en un contexto
como lo analiza Fernández Fernández (2021). global establece principios para la formación de
Desde esta perspectiva, es fundamental una una reglamentación ética y social sobre el uso de
educación ética en los estudiantes para ser la inteligencia artificial, tales como: el respeto a
operadores con perspectivas éticas. Los aportes de los derechos humanos, las libertades y la
esta visión son dos: promoción de igualdad de oportunidades.
•Los alumnos y docentes pueden asumir Un factor importante a tomar en cuenta
una parte de la responsabilidad en la vigilancia para la construcción de una reglamentación ética

90 | Revista Nthe, número 40, septiembre – diciembre 2022: pp. 85 - 96, ISSN: 2007-9079
 Christian Jonathan Ángel Rueda et al., Nthe, núm. 40, pp. 85 - 96

para la IA-CA en educación universitaria –y desde regular el uso de aplicaciones online predictivas,
una perspectiva global– es identificar por qué no la incorporación de bots a aparatos electrónicos de
son fáciles de aplicar a una escala mundial. Por lo uso doméstico, el reconocimiento facial y la
tanto, se propone sacar provecho de la globalidad videovigilancia.
de las universidades como un lugar para debatir Por su parte, la Comisión Europea
sobre el derecho a la información y el acceso a la consciente de los riesgos que supone la aplicación
información curada, los métodos y las técnicas ad de la IA en las actividades ciudadanas, el 21 de
hoc a los nuevos entornos. Como lo mencionan abril de 2021 publicó su Propuesta de Reglamento
Siqueira De Cerqueira y sus colaboradores (2021), IA, en el marco de la “Shaping Europe’s Digital
también es necesario proponer la traducción de los Future”, para impulsar la transformación digital y
principios éticos a la práctica y, de esta manera, la creación de nuevas oportunidades a empresas,
constituir la formación ética de la IA que se base garantizando máximo respeto por los derechos de
en el respeto, la responsabilidad, el compromiso los ciudadanos.
cívico, el compromiso con las mayorías y Mediante este reglamento se trata de
minorías. establecer un marco legal sobre las implicaciones
Hagendorff (2020) menciona la tensión que conlleva el uso de la IA, para lo cual establece
entre los principios éticos y los intereses y la siguiente clasificación sobre los posibles usos
objetivos más amplios de la investigación, la de la IA (ver Tabla 1):
industria y los negocios; lo cual puede explicarse
mediante la teoría sociológica. Todos estos Tabla 1. Tipos de aplicación de IA
sistemas tienen sus propios códigos, sus propios Tipo de
valores objetivos y sus propios tipos de capital aplicación Descripción
(económico o simbólico) a través de los cuales se
construyen y se toman decisiones. La intervención Prohibida destinada a manipular, explotar
ética en estos sistemas solo puede realizarse a una información, clasificar
escala muy limitada. En un contexto global, las evaluaciones sociales, control
universidades deben promover la aplicación de por vigilancia de forma
una ética de la IA-CA, para que esta sea una piedra indiscriminada
angular en cada una de las diferentes profesiones
y en la labor investigativa. De este modo, nuestros Sujeta a identificación biométrica remota
alumnos y profesores serán capaces de hacerse autorización en espacios públicos, sometida a
cargo de las nuevas tecnologías transformadoras, autorización administrativa
tales como: IA-CA, cloud computing, big data,
etc. En consecuencia, se avanzará en el desarrollo Con con reglas concretas para usos
de una ética de la inteligencia artificial cuando las requisitos como de un “chatbot” o para el
universidades canalicen sus competencias, con específicos empleo de sistemas “deep-fake”
apoyo en un código ético de la IA-CA, que tenga
como objetivo principal no solo servir a ciertos el uso de IA para el
intereses de lucro y/o poder sino contribuir al De “alto funcionamiento de
crecimiento del conocimiento y la expresión riesgo” infraestructuras críticas requerirá
creativa de lo humano. previa verificación de un tercero
Como las tecnologías basadas en el uso de independiente
la IA siguen posicionándose en todos los ámbitos Tabla 1. Tipos de aplicación de IA. Fuente: adaptado de Comisión
de la vida humana, en paralelo se han ido Europea (CE), 2021.
formulando propuestas de normatividad para
Otros usos de IA como las aplicaciones
91 | Revista Nthe, número 40, septiembre – diciembre de 2022: pp. 85 - 96, ISSN: 2007-9079
El uso ético de la inteligencia artificial de código abierto en educación universitaria

predictivas (por ejemplo, la admisión de errores o inconsistencias

estudiantes y la concesión de créditos) o durante todas las fases del
aplicaciones para evaluación de riesgos, requieren ciclo de vida de los sistemas
de una declaración responsable. de IA.
Esta propuesta de reglamento IA
“establece ciertas obligaciones de transparencia 3 Privacidad y Los ciudadanos deben tener
con los usuarios y consumidores, así como la gobernanza control total sobre sus propios
obligación de garantizar una adecuada formación datos, mientras que los datos
y conocimientos a las personas encargadas de que les conciernen no se
gestionar y supervisar las aplicaciones que utilizarán para dañarlos o
impliquen el uso de la IA (Andersen Global, pág discriminarlos.
s/n”. Asimismo, establece multas administrativas
para empresas que incumplan sus obligaciones 4 Debe garantizarse la
derivadas del uso de la IA. Finalmente, este marco Transparencia trazabilidad de los sistemas de
regulatorio es una oportunidad para desarrollar IA.
nuevas aplicaciones de IA con seguridad jurídica,
aunando innovación con altos estándares de No discriminación y equidad:
seguridad y todo ello en favor de los derechos de los sistemas de IA deben tener
usuarios y consumidores (Andersen Global, 5 Diversidad en cuenta toda la gama de
2021). capacidades humanas,
Por otra parte, el reporte “Guías éticas para habilidades y requisitos para
una AI confiable” (emitido por la Comisión garantizar la accesibilidad.
Europea) tiene como propósito el proveer de un
repositorio para evaluar el desarrollo responsable Los sistemas de IA deben
de sistemas AI que sean benéficos por la 6 Bienestar utilizarse para mejorar el
humanidad y el medio ambiente. En resumen, social y cambio social positivo y
destacan siete elementos esenciales para lograr ambiental mejorar la sostenibilidad y la
una AI confiable (ver Tabla 2): responsabilidad ecológica .

7 Rendición de Deben establecerse

Tabla 2. Siete elementos esenciales para lograr cuentas mecanismos para garantizar la
una AI confiable responsabilidad y la rendición
Elementos Descripción de cuentas de los sistemas de
IA y sus resultados.
Los sistemas de IA deben
Tabla 2. Siete elementos esenciales para lograr una AI confiable.
1 Agencia permitir sociedades equitativas Fuente: adaptado de Floridi, Luciano, 2019.
humana y mediante el apoyo a la agencia
supervisión humana y derechos Una vez revisadas las propuestas de normatividad
fundamentales y no disminuir, para asegurar un uso apegado a los principios
limitar o desorientar la éticos de beneficencia y no maleficencia, de
autonomía humana. justicia y de respeto a la autonomía mediante la
explicabilidad suficiente, a continuación, se ofrece
La IA confiable requiere que
una propuesta de reglamentación del uso ético de
los algoritmos sean seguros,
la IA-CA en educación universitaria en un
2 Robustez y confiables y lo suficientemente
contexto global, la cual se presenta en la Tabla 3.
seguridad robustos como para lidiar con

92 | Revista Nthe, número 40, septiembre – diciembre 2022: pp. 85 - 96, ISSN: 2007-9079
 Christian Jonathan Ángel Rueda et al., Nthe, núm. 40, pp. 85 - 96

Tabla 3. Reglamentación del uso ético de la IA- 8 Derechos de Se refiere al interés por
CA en contextos universitarios a nivel global los estudiantes buscar, recibir y expresar su
opinión en relación a las
Aspectos Descripción aplicaciones que se emitan
ética y pedagógicamente.

La IA debe ser utilizada en En este caso, señalar la

1 Fines beneficio y salvaguardia del 9 Temática relación entre la IA-CA, los
ser humano ante todo tipo de beneficios educativos y la
riesgos. privacidad de los alumnos.
Tabla 3. Reglamentación del uso ético de la IA-CA en contextos
2 Principios Los principios éticos universitarios a nivel global. Fuente: elaboración propia.
inherentes a la IA-CA deben
ser respetados y promovidos. Los desarrollos en IA-CA tienen un gran
potencial para mejorar la vivencia de
La reglamentación deberá:
experiencias de aprendizaje e investigación, pues
partir de los principios;
proporcionan acceso a materiales educativos,
3 Etapas establecer una fase de
recursos o información clave para el desarrollo
investigación, detección de
multidimensional de los estudiantes. Aquí el
fallas y vulnerabilidades; y
problema radica en que la incorporación
una fase de desarrollo hasta su
inapropiada o errónea de la IA puede resultar
aplicación contextualizada.
perjudicial para la educación. Sólo si el uso
4 Necesidades Debe tenerse en cuenta la asume la perspectiva de que es necesario proveer
responsabilidad del usuario en acceso a una infraestructura abierta y conectada,
su manejo de la IA. basado en el uso ético de los recursos en un
entorno transparente, podrá ser positivo para la
Se trata del trabajo educación universitaria. El sentido de
5 Aplicación cooperativo y concertado transparencia es en relación con los algoritmos
entre universidades las cuales libres de intencionalidad maléfica.
deben suscribir el Código
ético de la IA-CA. En la actualidad, el mundo universitario aún se
encuentra lejos de tener la suficiente conciencia
Se refiere a la valoración del y preocupación acerca del uso ético de la IA-CA
6 grado de aplicación de la IA en el ámbito educativo. El uso inapropiado o
Evaluación en cada institución, su errado podría generar problemas tales como: que
contribución y otros factores una persona consiga una gran cantidad de
que contribuyan a una mejora atención que no es debida e, incluso, la exclusión
en la calidad y eficiencia injusta o la discriminación por razones no
educativa. deseadas.
Es necesario plantear una reglamentación
7 Derechos del Tales como el derecho a la adecuada al contexto geográfico de cada una de
usuario privacidad de datos las instituciones educativas, la cual tome en
personales y sus propiedades cuenta lo que señala Chan (2022) sobre los
intelectuales. investigadores de IA-CA, quienes deberían tener
cierta responsabilidad sobre cómo se presenta su
93 | Revista Nthe, número 40, septiembre – diciembre de 2022: pp. 85 - 96, ISSN: 2007-9079
El uso ético de la inteligencia artificial de código abierto en educación universitaria

investigación al público, con una interpretación incluir una mejora del software para apoyar el
transparente y comprensible de la tecnología y la aprendizaje y el desarrollo cognitivo; además,
divulgación. Asimismo, implica una debe ser transparente sobre los datos y las
responsabilidad ética que permita analizar y técnicas consultadas para lograr este objetivo. En
reflexionar sobre el papel de la tecnología en cuanto al sesgo inherente a la IA-CA, hay que
nuestra sociedad y el impacto que tiene en aclarar que esta se denomina como sesgo porque
nuestras vidas. Dada la complejidad de una la inteligencia artificial tiene una tendencia clara
inteligencia artificial que se usa para el objetivo de poder predecir con más o menos acierto los
educativo, es indispensable una reglamentación resultados de un modelo (también denominado
contextualizada en instituciones educativas a tendency bias), sin embargo, no siempre se tiene
nivel regional. claro si es el software o el usuario el que hace
En el marco de una institución educativa, esta toma de decisiones. Si la decisión es del
la implementación de esta reglamentación usuario, el código ético debe incluir una
contextualizada requiere una explicación explicación clara sobre los resultados en cuanto
pertinente del contexto conceptual que gira en a elaboraciones de datos y herramientas de
torno al impacto de IA-CA en la educación. La análisis. En caso de que se trate del software, hay
IA-CA puede ayudar a mejorar procesos de que mencionar este factor y verificar si los
educación para reducir el costo de la enseñanza, resultados son tendenciales o no, pues esto puede
así como a ampliar el alcance de los programas. afectar al usuario.
Puede aprovechar también que se están creando A continuación, se presenta en la Tabla 4
instituciones multidisciplinares y desafiantes una propuesta de reglamentación del uso ético de
(I+D+I) para generar evidencias comunicativas la IA-CA en educación universitaria en un
eclécticas. Esto dinamiza las capacidades contexto regional.
tecnológicas necesarias para llevar a cabo dichos
proyectos digitales. Tabla 4. Reglamentación del uso ético de la IA-
Es posible también tomar en cuenta lo que CA en contextos universitarios nivel regional
comenta Ekambaram (2022) para plantear un Aspecto Descripción
código ético de IA-CA en educación
universitaria en un contexto regional (que El código ético para el uso
ciertamente vale para estas instituciones), que es de la IA-CA debe iniciar
aprovechar lo más eficazmente posible la ciencia con una declaración del
de los datos y las tecnologías para impulsar el contexto y la definición de
desarrollo de las capacidades cognitivas de los 1 General los términos del lenguaje
estudiantes. Es necesario construir un código con el que se opera en la
ético de manera que funcione de manera integral IA. Esto permite que los
y unitaria tanto para el software como las usuarios sepan cuáles son
experiencias de aprendizaje. las implicaciones
Entre los puntos importantes de este subyacentes al tipo de
código hay que señalar varios: el código ético software utilizado.
debe respetar el principio del cumplimiento a la
norma (discarding the rule) y en caso contrario, Cualquier cambio en la
señalar si es válida o no. El código ético debe reglamentación debe
enfatizar que el desarrollo de la inteligencia 2 Seguridad contemplar los temas de
artificial es algo que se trata de promover, más seguridad, pues con la IA
no someter a una crítica pedagógica. Es necesario puede verse en riesgo la

94 | Revista Nthe, número 40, septiembre – diciembre 2022: pp. 85 - 96, ISSN: 2007-9079
 Christian Jonathan Ángel Rueda et al., Nthe, núm. 40, pp. 85 - 96

privacidad y la protección
de datos. 4.- Reflexiones finales

La IA-CA debe ser En este artículo se han propuesto diferentes

3 Desarrollo de explícita respecto a su uso aspectos del uso de la IA-CA que deben
Software y los derechos que otorga al considerarse desde una visión prospectiva, de tal
usuario del programa. modo que, si la IA-CA en educación universitaria
se utilizara en su justa medida, su uso ético-
La IA-CA debe ser hermenéutico contribuirá al desarrollo de la
4 Metodología transparente y señalar sus investigación, al desarrollo de nuevas capacidades
herramientas de análisis, ya a partir de los datos, la selección automática libre
que esto puede reflejarse en de favoritismos del perfil del estudiante, etc. De
el desarrollo del código. esta manera se puede afirmar que el uso ético de
la IA-CA en educación universitaria contribuye a
5 Debe ser clara en cuanto a la formación profesional y al propósito de servir a
Reglamentación su procesamiento, es decir, la humanidad en cada persona.
formal en cuanto a los datos o El interés que subyace a este trabajo se
patrones que se usan para encamina a la construcción de códigos de ética en
conseguir los resultados el uso de la IA-CA en educación universitaria para
esperados. impulsar la elaboración consensuada de una
reglamentación ética y social sobre el uso de la IA
Del software, es necesario contextualizada. La actividad de las universidades
6 Evaluación revisar la utilidad y en investigación, desarrollo y aplicación para un
continua funcionalidad del uso ético de la IA-CA, requiere fundamentalmente
programa para evitar fallas de confianza entre los estudiantes y los profesores.
y aspectos vulnerables. De esta manera, las universidades se convertirán
Una evaluación constante en centros de futuros profesionales que manejen la
7 Aspecto de la IA-CA puede dar IA-CA con agencia ética-hermenéutica. Para el
educativo señales de su utilidad para desarrollo de esta capacidad, es fundamental que
optimizar los procesos de las universidades cuenten con mecanismos de
enseñanza-aprendizaje. participación ciudadana en sus instituciones para
acceder a un uso de la IA-CA que promueva el
Ambos se ven implicados respeto, el reconocimiento y la reciprocidad en el
para asegurar que el cuidado mutuo dentro de entornos digitales.
8 Aspecto ético software sea El profesional del conocimiento en una
y pedagógico suficientemente versátil sociedad abierta debe pensar, proponer y debatir
para ser utilizado de tanto al interior de la academia como al exterior
manera flexible sin limitar con la sociedad. No solo importan los papeles de
su potencial. estudiante y profesor sino, sobre todo, el actuar
con responsabilidad social, mismo que se renueva
9 Del usuario al utilizar IA- a través de la relación en el proceso formativo y al
Responsabilidad CA en instituciones expandirse las fronteras del conocimiento. Esta
educativas. labor es de la máxima importancia en una sociedad
Tabla 4. Reglamentación del uso ético de la IA-CA en contextos abierta.
universitarios nivel regional. Fuente: elaboración propia. Es posible que haya un desarrollo benéfico

95 | Revista Nthe, número 40, septiembre – diciembre de 2022: pp. 85 - 96, ISSN: 2007-9079
El uso ético de la inteligencia artificial de código abierto en educación universitaria

de la IA, a la par de aplicaciones en riesgo, por lo Source Intelligence Applications. In Proceedings of

que el uso ético debe encontrar un marco jurídico the Wellington Faculty of Engineering Ethics and
Sustainability Symposium. DOI:
y social donde se ejerciera un control y una https://doi.org/10.26686/wfeess.vi.7648
valoración ético-hermenéutica de su uso. De esta Fernández-Fernández, J. L. (2021). Hacia el Humanismo
manera, se presenta la posibilidad de desarrollar Digital desde un denominador común para la Cíber
códigos éticos de la IA-CA. Ética y la Ética de la Inteligencia Artificial.
La responsabilidad de los agentes Disputatio. Philosophical Research Bulletin, 10(17),
pp. 107-130.
académicos, sean estudiantes, profesores o Floridi, L. (Junio de 2019). Establishing the rules for building
administrativos, necesita tomar en cuenta que la trustworthy AI. En: Nature Machine Intelligence, 1,
IA debe ser un sistema sociocultural de servicio y p. 261-262. Recuperado el junio de 2022, de
no una herramienta tecnológica para un propósito http://www.nature.com/natmachintell
de dominación y exclusión de las personas. Goldie, M. B. (2015) “An Early English Rutter: The Sea and
Spatial Hermeneutics in the Fourteenth and Fifteenth
La IA debe ser una parte fundamental de la Centuries,” Speculum, 90(3), pp. 701–727.
innovación, no sólo en cuanto a su contenido en el Hagendorff, T. (2020). The ethics of AI ethics: An evaluation
proceso formativo, sino, preferentemente en su of guidelines. Minds and Machines, 30(1), pp. 99-
influencia en el desarrollo de una ciudadanía 120.
digital con responsabilidad compartida respecto LaGrandeur, K. (2021). How safe is our reliance on AI, and
should we regulate it? En AI and Ethics, 1(2), pp. 93-
del cuidado de las personas y del medio ambiente. 99.
La innovación en la educación es un factor clave licenses.ai (2022) En www.licenses.ai. Recuperado el 15 de
para el futuro. En este sentido, los códigos de octubre de 2022 de
ética-hermenéutica no son un límite a la https://www.licenses.ai/blog/2022/8/26/bigscience-
investigación innovadora, sino un andamiaje open-rail-m-license
N. Mehrabi, F. Morstatter, N. Saxena, K. Lerman, and A.
respuestas nuevas a contextos inéditos. Galstyan (2021) “A survey on bias and fairness in
machine learning,” ACM Computing Surveys
5. Referencias (CSUR), 54(6), pp. 1–35.
Nallur, V., Lloyd, M., & Pearson, S. (2021). Automation: An
Andersen Global (2021). La Propuesta de Reglamento sobre Essential Component Of Ethical AI?. arXiv preprint
Inteligencia Artificial, nuevo marco legal para la arXiv:2103.15739.
innovación. Obtenido de Özkardes-Cheung, Y. (2021). Hewlett Packard Enterprise
https://es.andersen.com/es/la-propuesta-de- (2019). Investigación 451. Enterpreneur en español.
reglamento-sobre-inteligencia-artificial-nuevo- Recuperado de:
marco-legal-para-la-innovacion.html https://www.entrepreneur.com/es/marketing/la-
Chan, A. GPT-3 and InstructGPT: technological guia-completa-de-inteligencia-artificial-para-
dystopianism, utopianism, and “Contextual” empresas/
perspectives in AI ethics and industry. AI Ethics Ricoeur, Paul, (2010). Del texto a la acción. Ensayos de
(2022). DOI: https://doi.org/10.1007/s43681-022- hermenéutica II. Argentina: Fondo de Cultura
00148-6 Económica.
Colman, A. (2005). Un/becoming digital: The ontology of Siqueira De Cerqueira, J. A., Dos Santos Althoff, L., Santos
technological determinism and its implications for De Almeida, P., & Dias Canedo, E. (2021, January).
art education. Journal of Social Theory in Art Ethical perspectives in AI: A two-folded exploratory
Education, 25(1), pp. 278-305. study from literature and active development
Comisión Europea (CE) (2021). ReasonWhy. Obtenido de projects. In Proceedings of the 54th Hawaii
https://www.reasonwhy.es/actualidad/comision- International Conference on System Sciences (p.
europea-propuesta-regulacion-inteligencia-artificial 5240).
Comisión Europea (CE), (2021). Propuesta de Reglamento Stable Diffusion. (s.f.). En Wikipedia. Recuperado el 15 de
sobre Inteligencia Artificial en el marco de la octubre de 2022 de
estrategia digital europea denominada “Shaping https://es.wikipedia.org/wiki/Stable_Diffusion
Europe’s Digital Future”.
Ekambaram, V. (2022). Creating a Code of Ethics for Open-

96 | Revista Nthe, número 40, septiembre – diciembre 2022: pp. 85 - 96, ISSN: 2007-9079