Ética en la era digital
Soraia Silva Prietch, Josefina Guerrero García, Juan Manuel González Calleros
Ver en el PDF
Hace dos décadas Hirsch-Adler (2004) planteaba como pregunta central “¿Por qué es importante la enseñanza de la ética profesional?”; que él mismo contesta de la siguiente manera:
La enseñanza de la ética profesional promueve en los estudiantes la reflexión sistemática sobre el servicio que prestarán a la sociedad, sus beneficiarios directos e indirectos, sus derechos y obligaciones y los posibles conflictos que van a encontrar. (p. 4)
En el libro de Cathy O’Neil (2017), la autora cita ejemplos de conflictos que muchas personas se imponen cuando califican muy alto sus valores de éxito, sea con el objetivo de mejorar su estatus social a través del ingreso en reconocidas universidades (por ejemplo, haciendo trampa en exámenes de admisión) o de vencer en competencias deportivas (por ejemplo, dopaje), a través de los cuales buscan beneficios individuales en detrimento de un juego limpio para todos.
En este contexto, el objetivo de este artículo es hacer una reflexión teórica sobre la importancia de la enseñanza de ética en la educación superior, los cambios en la sociedad y su impacto en la actuación ética en comunidad, así como algunos escenarios de enseñanza de ética en el área de computación. La reflexión se justifica en la intención de estimular el pensamiento crítico y fomentar más debates sobre la temática en los potenciales involucrados en la educación superior.
TERMINOLOGÍA Y DEFINICIONES
Las primeras palabras que interesan son ética y moral, las cuales, según Savater (1991):
[...] desde un punto de vista técnico [...] [las dos palabras] no tienen idéntico significado. “Moral” es el conjunto de comportamientos y normas que tú, yo y algunos de quienes nos rodean solemos aceptar como válidos; “ética” es la reflexión sobre por qué los consideramos válidos y la comparación con otras “morales” que tienen personas diferentes. (p. 24)
Cuando se emplea el término “ética profesional”, de inmediato se asocia con la palabra deontología. Sin embargo, el mismo autor aclara que...
[...] la deontología es un capítulo de la Ética general, concretamente la teoría de los deberes [...]. Los deberes profesionales son solo una parte muy restrictiva de los deberes en general [...]. (p. 6)
A menudo estamos expuestos a dilemas éticos en nuestra vida profesional, y como prestadores de servicios a la sociedad necesitamos reflexionar sobre la conducta ética “frente a la responsabilidad y compromiso en cada profesión [...], de acuerdo con los valores” (Lozano, 2020, p. 7) que tenemos. Así, pues, otro componente importante que impacta en ese proceso son los valores. Para Jefferson Machado (2003):
La actuación de un profesional debe necesariamente basarse en un repertorio de valores socialmente acordados, basados en principios fundacionales que van mucho más allá de la búsqueda de lucro y beneficio personal.
METODOLOGÍA
En la revisión bibliográfica exploratoria realizada, utilizamos la técnica de “bola de nieve” (snowballing) de manera restringida: se empezó por la lectura de un conjunto semilla de artículos y a partir de sus referencias y términos clave se realizó la búsqueda de tales referencias y términos en Google Scholar para poder encontrar los artículos presentados como resultado.
Se llegó al conjunto semilla por indicación de colaboradores (Álvarez et al., 2021), por los trabajos de Fiesler (Fiesler et al., 2020; Garrett et al., 2020; Smith et al., 2023), y por la búsqueda de trabajos sobre ética profesional en la educación superior.
Para la discusión de los resultados se realizó una reflexión teórica y un análisis cualitativo sobre los artículos recolectados.
LA ENSEÑANZA DE ÉTICA Y SU IMPORTANCIA EN LA SOCIEDAD ACTUAL
En esta sección se presentan referencias que discuten los temas centrales de este artículo: las razones para la enseñanza de ética en la educación superior, los cambios en la sociedad y su impacto en la actuación ética en comunidad, y algunos escenarios de enseñanza de ética en el área de computación.
Razones para la enseñanza de ética en la educación superior
Para contestar a la pregunta del título, en la Tabla 1 se presenta un listado de razones que indican la importancia de la enseñanza de ética en la educación superior, reportadas en diferentes trabajos.
A continuación, se describen las razones de la Tabla 1. Por “educación universitaria completa” se entiende la educación que brinda formación teórica y técnica en áreas específicas, además de proporcionar formación humanística y social; también podría referirse como educación universitaria integral o redonda (rounded university education), como mencionan Medina y Blanco (2014).
“Ética profesional no es innata” se refiere al hecho de que se requiere de estrategias de enseñanza y aprendizaje para promover la reflexión sobre responsabilidades, valores, competencias, entre otros; innata en el sentido de que los estudiantes no nacen, por así decir, con el conocimiento y se requiere aprendizaje sobre su actuación ética en una futura profesión.
La “prestación de servicios ético-sociales a la sociedad” hace alusión a los servicios que los futuros profesionales van a realizar para otras personas que pueden beneficiarse de manera directa o indirecta.
Aquí el enfoque es la interacción persona-persona, valorando y humanizando la manera como los servicios son realizados, tomando en cuenta que una o más personas serán usuarias o beneficiarias de la acción.
Con respecto a la “prevención del comportamiento poco ético”, ante casos poco éticos evidentes en la sociedad (como en los ejemplos que citan Álvarez et al., (2021) sobre la academia y el gobierno, entre otros), discutirlos en la educación superior puede favorecer la reflexión y la discusión entre pares y, por consecuencia, evitar situaciones futuras moralmente dudosas.
El tema de la “privacidad y confianza en el tratamiento de datos personales” es muy actual, pues con el uso de productos y servicios mediados por tecnología en todos los sectores de la sociedad, es necesario estar conscientes de lo que esto puede representar. Más adelante mencionaremos algunos ejemplos (O’Neil, 2017; Fiesler et al., 2020; Garrett et al., 2020).
Finalmente, el desempeño ético profesional también puede ser guiado por recomendaciones y “códigos de ética de consejos y asociaciones profesionales”, nacionales e internacionales, específicos para la interacción con los beneficiarios de los servicios prestados. Un ejemplo del área de la computación es el código de ética y conducta profesional de la ACM (Association for Computing Machinery).
Es posible que haya otras razones para la enseñanza de la ética en la educación superior, además de las presentadas en esta sección; pero esta es solo la punta del témpano y se necesita profundizar en los estudios futuros.
Los cambios en la sociedad y su impacto en la actuación ética en comunidad
En esta sección se pondrá atención en el impacto que los avances tecnológicos han representado en la sociedad. De acuerdo con Álvarez et al. (2021, p. 2), estos avances “han generado nuevos dilemas éticos”. Por ejemplo, cuando se piensa en sistemas computacionales que analizan automáticamente una cantidad masiva de datos (big data) y toman decisiones en lugar de los humanos, O’Neil (2017) menciona que, en un principio, se podría pensar que las máquinas procesan solamente números y no involucran pensamientos prejuiciosos en sus decisiones. Sin embargo, la autora reporta que detrás de las máquinas hay matemáticos y computólogos desarrollando estos modelos y algoritmos, y que echando un vistazo se encuentra mucha evidencia sobre el hecho de que la tecnología puede ser portadora de sesgos algorítmicos y, por tanto, es un factor en la ampliación de la desigualdad socioeconómica para personas históricamente marginadas en la sociedad.
La discusión de O’Neil (2017) va de la mano con el documental Coded bias, dirigido por Shalini Kantayya y lanzado en 2020, en el cual diversos investigadores (Joy Buolamwini, para citar un ejemplo) denuncian los sesgos en los algoritmos de inteligencia artificial (IA) de sistemas de reconocimiento facial hacia personas negras. Aún queda un largo camino por recorrer en términos de discusión y legislación sobre el desarrollo de modelos y algoritmos de IA que respeten los derechos humanos, ya que actualmente están explorando terrenos desconocidos.
Otro ejemplo es la creciente oferta de herramientas de IA (por ejemplo, ChatGPT, Bard, Litmaps, Scite.AI, entre otras) utilizadas en el medio académico en la investigación en la búsqueda de soluciones a problemas de programación, en la planeación de clases, entre otras actividades. En los últimos años, otra tecnología emergente que ha tomado espacio en investigación es la llamada deepfake, con la que la apariencia física de una persona es reemplazada por la de otra. Para la investigación con usuarios de lengua de señas, esta puede ser una tecnología interesante para garantizar la privacidad de la persona que está comunicando información en video o en tiempo real. Recientes estudios han investigado el voice deepfake o voice cloning que reemplaza la voz de una persona por la de otra. De igual manera, en un ejemplo de accesibilidad para personas ciegas, una voz que se asemeja a la voz humana es más agradable de escuchar que una voz sintetizada al usar herramientas de lectura de pantalla. En ambos casos, el uso de deepfake para imitar imágenes o voces ajenas puede tener consecuencias negativas e igualmente cuestionables en términos de ética.
Algunos escenarios de enseñanza de ética en el área de computación
En este tema, los trabajos de Fiesler y colegas son base para esta reflexión (Fiesler et al., 2020; Garrett et al., 2020).
Fiesler y colaboradores (2020) recopilaron y analizaron de manera cualitativa 115 planes de estudios de cursos autodenominados “ética tecnológica” (tech ethics) de 94 universidades de Estados Unidos (70 de las 94), Canadá, Australia, Nueva Zelanda y países de Europa, Sudamérica y Oriente Medio. Gran parte de los cursos analizados ofrecen contenidos de ética en general, excepto por algunos (~16 %) que tratan de contenidos específicos relacionados con inteligencia artificial, videojuegos, discapacidad, entre otros. Entre los contenidos más recurrentes están: ley y política, privacidad y vigilancia, filosofía, desigualdad, justicia y derechos humanos, e IA y algoritmos.
Los resultados de aprendizaje más comunes fueron los siguientes: desarrollar el pensamiento crítico, detectar problemas, presentar argumentos, mejorar la comunicación, conocer múltiples perspectivas, crear soluciones, considerar consecuencias y aplicar reglas. Los autores sugieren que los profesores podrían aprender unos de otros, y que la participación en grupos de discusión con interés en la enseñanza de ética puede ser beneficiosa para todos los involucrados.
En el artículo de Garrett y colaboradores (2020), las preguntas iniciales para poner a prueba la reflexión sobre la enseñanza de ética e IA son:
¿Qué se está enseñando? [en cursos específicos de ética y clases de ética en cursos técnicos] Mientras capacitamos a científicos informáticos que construirán e implementarán herramientas de IA, ¿cómo los capacitamos para que consideren las consecuencias de su trabajo? (p. 272)
Con el análisis de 51 cursos de IA y aprendizaje automático (machine learning, ML), los autores ofrecen cuatro recomendaciones a educadores en IA: asignar tareas de lectura de artículos publicados recientemente (por ejemplo, sobre prácticas cuestionables de los proveedores de redes sociales); en los cursos técnicos, incluir prácticas de bien social como parte del proceso de construcción de IA al definir los objetivos o tareas de aprendizaje; hacer explícitos temas omitidos y recomendados en las directrices éticas de la IA (por ejemplo, accesibilidad, género, sustentabilidad); agregar contenidos de los cursos específicos de ética en las clases de cursos técnicos, de modo que se incentive la discusión en sectores de la sociedad que utilizan herramientas de IA (por ejemplo, sistemas de justicia, sector militar, etcétera).
Fiesler tiene otros trabajos relevantes en esa línea de estudios, tales como los relacionados con la integración de la ética en las clases de introducción a la programación al inicio de carreras de computación (en el entendimiento de que “cuanto antes, mejor”), y propone que las tareas estén contextualizadas con dilemas o conceptos éticos del mundo real (Fiesler et al., 2021) y con las actitudes de los profesores de cursos de computación hacia la incorporación de la ética en sus clases (Smith et al., 2023).
DISCUSIÓN
De las seis categorías que se organizaron en la Tabla 1, no hemos discutido cuáles son más relevantes, porque para ello se necesitaría realizar entrevistas con diferentes tipos de públicos (estudiantes, profesores, gerentes educacionales, directores de secretarías de educación estatales o federal, entre otros), o con personas de diferentes áreas (salud, derecho, negocios, ingeniería, contaduría, veterinaria, etcétera).
Sin embargo, como se puede observar en la Tabla 1, las referencias citadas están ubicadas en un periodo de 21 años, entre 2001 y 2022, e incluyen trabajos de las áreas de humanidades y sociales, así como del área de ciencias exactas como ingeniería y computación, lo que confirma la vigencia de la discusión, además de que se observan coincidencias de razones entre distintas áreas.
Presentamos también un conjunto de ejemplos sobre el manejo de modelos, algoritmos y herramientas de IA y discutimos cómo puede impactar su uso en la vida en sociedad. Las tecnologías emergentes pueden promover cambios de comportamiento en las personas, en su contexto o hasta en espacios de convivencia más amplios en dependencia de su posición socioeconómica y política.
En la discusión de escenarios de enseñanza de ética en el área de computación, hay muchos factores que pueden influenciar en el proceso de aprendizaje, tales como la subjetividad de la evaluación del aprendizaje, la actitud docente, los conceptos de ética introducidos de manera temprana y contextualizada a estudiantes, y la metodología educativa.
PERSPECTIVAS
Como propuesta de trabajo futuro, se sugiere la investigación para conocer y discutir cuáles contenidos enseñar, qué técnicas pedagógicas usar, cómo (con cuáles estrategias), cuándo y dónde introducir cuestiones de ética y moral en la educación superior y cómo evaluar ese aprendizaje. Sabiendo de antemano que hay propuestas para introducción de cursos, materias o asignaturas sobre ética en distintas carreras (Hirsch-Adler, 2004), y que se proponen otros tipos de abordaje, como el uso de tecnologías educativas (por ejemplo, el EthicApp, Álvarez et al., 2021) asociadas a un curso o empleadas de manera transversal (Smith et al., 2023).
Otra propuesta es efectuar estudios semejantes a los realizados por Fiesler y colaboradores (Fiesler et al., 2020; Garrett et al., 2020), pero en países de América Latina, para conocer las similitudes y diferencias con lo encontrado en esas investigaciones y conocer la formación y la percepción sobre la ética profesional de computólogos e ingenieros que trabajan en la industria.
AGRADECIMIENTOS
Al doctor Daniel Moncecahua por su curso “Escribir para divulgar” y por motivarnos a divulgar la ciencia como si estuviéramos tomando un café y platicando con los lectores.
REFERENCIAS
Álvarez C, Zurita G, Hasbún B, Peñafiel S and Pezoa Á (2021). A social platform for fostering ethical education through role-playing. En Hessami AG and Shaw P (Ed.), Factoring Ethics in Technology, Policy Making, Regulation and AI, IntechOpen. Recuperado de: https://www.intechopen.com/chapters/75584.
Barrio-Maestre JM (2001). Analogías y diferencias entre Ética, Deontología y Bioética. En: Tomás Garrido G. Manual de Bioética. Edit. Ariel. Recuperado de: https://t.ly/bH752.
Fiesler C, Garrett N and Beard N (2020). What do we teach when we teach tech ethics? A syllabi analysis. In Proceedings of the 51st ACM technical symposium on computer science education (pp. 289-295). Recuperado de: https://dl.acm.org/doi/10.1145/3328778.3366825.
Garrett N, Beard N and Fiesler C (2020). More than ”If Time Allows” the role of ethics in AI education. In Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (pp. 272-278). Recuperado de: https://dl.acm.org/doi/10.1145/3375627.3375868.
Hirsch-Adler AH (2004). Utopía y Universidad. La enseñanza de ética profesional. Reencuentro. Análisis de Problemas Universitarios (41) 0. Recuperado de: https://www.redalyc.org/pdf/340/34004105.pdf.
Machado NJ (2003). Competência e profissionalismo: o lugar da ética. São Paulo: Univesp.
Medina MJ and Blanco Encomienda FJ (2014). Professional ethics training in higher education. Wydawnictwo Adam Marszałek (Ed.), The New Educational Review 38:17-28, Poland.
O’Neil C (2017). Weapons of math destruction: How big data increases inequality and threatens democracy. New York: Crown Publishers.
Savater F (1991). Ética para Amador. Barcelona: Ariel.
Smith JJ, Payne BH, Klassen S, Doyle DT and Fiesler C (2023). Incorporating Ethics in Computing Courses: Barriers, Support, and Perspectives from Educators. Proceedings of the 54th ACM Technical Symposium on Computer Science Education 1:367-373. Recuperado de: https://dl.acm.org/doi/10.1145/3545945.3569855.