Palabras clave
Discurso de odio
Inteligencia artificial
Libertad de expresión
Moderación de contenidos
Tribunal Europeo de Derechos Humanos
Cómo citar
##plugins.themes.healthSciences.displayStats.downloads##
Societal impact
Resumen
Introducción. El presente trabajo analiza la arquitectura jurídico-fundacional de la moderación algorítmica a partir de la tensión antinómica entre libertad de expresión y discurso de odio. La relevancia de este análisis radica en la necesidad de desentrañar desde una perspectiva dogmática, la disrupción categorial que provoca la inteligencia artificial generativa como un mero instrumento técnico dentro del Derecho Internacional. Métodos. Se realizó una revisión crítica y comparativa de la jurisprudencia reciente de la Corte Interamericana de Derechos Humanos y el Tribunal Europeo de Derechos Humanos. Resultados. Los hallazgos revelan una divergencia de estándares: mientras el sistema europeo consolida un modelo de due diligence que expande la responsabilidad penal hacia el titular del perfil y las plataformas, el Sistema Interamericano mantiene una resistencia estructural frente a toda forma de censura preventiva en debates de interés público. Conclusión. A partir de las tesis de Cotino Hueso y Llansó, se concluye que la responsabilidad por esta codificación regulatoria en el ecosistema digital recae directamente en los dueños de las redes sociales y en los perfiles particulares que violentan las normas, más que en la capacidad de la IA en sí misma. La delegación del juicio al algoritmo binario genera opacidad y una “limpieza higiénica” que sacrifica el pluralismo democrático al subordinar los derechos fundamentales a una lógica de neutralización del daño lingüístico, desprovista de hermenéutica jurídica.
Referencias
Abramovich, V., y Courtis, C. (2018). La protección de los derechos humanos en el sistema interamericano. Editores del Puerto.
Alexy, R. (2019). Teoría de los derechos fundamentales (E. Garzón Valdés, Trad.; 3.ª ed.). Centro de Estudios Políticos y Constitucionales. (Obra original publicada en 1986).
Ansuátegui Roig, F. J. (2010). Derechos fundamentales, valores y normas. Marcial Pons.
Atienza, M. (2017). El derecho como argumentación. Ariel.
Barata, J., y Echeveste, P. (2021). Libertad de expresión y entornos digitales: El desafío de la proporcionalidad. Editorial Dykinson.
Barendt, E. (2005). Freedom of speech (2.ª ed.). Oxford University Press.
Bernal Pulido, C. (2014). El principio de proporcionalidad y los derechos fundamentales (4.ª ed.). Universidad Externado de Colombia.
Bertoni, E. (2012). Prevenir la censura: El Sistema Interamericano de Derechos Humanos y la libertad de expresión. Editorial Universidad de Palermo.
Botero Marino, C. (2013). El estándar interamericano de libertad de expresión y los desafíos de la era digital. En Derecho y Tecnología. Universidad de los Andes.
Bradford, A. (2020). The Brussels effect: How the European Union rules the world. Oxford University Press.
Cançado Trindade, A. A. (2018). El derecho internacional de los derechos humanos en el siglo XXI (2.ª ed.). Jurídica de Chile.
Celeste, E. (2022). Digital constitutionalism: The role of Internet Bill of Rights. Routledge.
Comité de Derechos Humanos. (2000, 18 de octubre). Malcolm Ross c. Canadá (Comunicación n.º 736/1997). ONU Doc. CCPR/C/70/D/736/1997. juris.ohchr.org
Comité de Derechos Humanos. (2011). Observación general n.º 34: Artículo 19 (Libertad de opinión y libertad de expresión) (CCPR/C/GC/34). Naciones Unidas. https://www.ohchr.org/es/treaty-bodies/ccpr/general-comments
Comité de Ministros del Consejo de Europa. (2020, 8 de abril). Recomendación CM/Rec(2020)1 sobre los impactos de los sistemas algorítmicos en los derechos humanos. Consejo de Europa. search.coe.int
Consejo de Europa. (1950, 4 de noviembre). Convenio Europeo para la Protección de los Derechos Humanos y de las Libertades Fundamentales. Roma.
Corte IDH. (1985). La Colegiación Obligatoria de Periodistas (Arts. 13 y 29 Convención Americana sobre Derechos Humanos). Opinión Consultiva OC-5/85. Serie A No. 5.
Corte IDH. (2001). Caso “La Última Tentación de Cristo” (Olmedo Bustos y otros) Vs. Chile. Sentencia de 5 de febrero de 2001 (Fondo, Reparaciones y Costas).
Corte IDH. (2006). Caso Claude Reyes y otros Vs. Chile. Sentencia de 19 de septiembre de 2006 (Fondo, Reparaciones y Costas).
Corte IDH. (2009). Caso Ríos y otros Vs. Venezuela. Sentencia de 28 de enero de 2009 (Excepciones Preliminares, Fondo, Reparaciones y Costas).
Corte IDH. (2013). Caso Mémoli Vs. Argentina. Sentencia de 22 de agosto de 2013 (Excepciones Preliminares, Fondo, Reparaciones y Costas).
Corte IDH. (2019). Caso Álvarez Ramos Vs. Venezuela. Sentencia de 30 de agosto de 2019 (Excepción Preliminar, Fondo, Reparaciones y Costas).
Cotino Hueso, L. (2017). Libertad de expresión e información en Internet y las redes sociales: Ejercicio, amenazas y garantías. Revista de Derecho Político, (100), 197-234.
Cotino Hueso, L. (2019). Libertad de expresión e información en internet y las redes sociales: Amenazas y riesgos en el entorno digital. Editorial Jurídica Sepín.
Cotino Hueso, L. (2023). La responsabilidad de los usuarios y plataformas por contenidos de terceros: De Delfi a Sánchez. Un endurecimiento peligroso para la libertad de expresión. Revista de Derecho Digital e Innovación.
Echeveste, M. (2015). Libertad de expresión: La doble dimensión en la jurisprudencia de la Corte Interamericana de Derechos Humanos. Editorial Juris.
Echeveste, M. (2020). Más que palabras: Libertad de expresión y discurso de odio en el Sistema Interamericano. Eunomía. Revista en Cultura de la Legalidad, (18), 320-338.
Ferrajoli, L. (2011). Principia iuris: Teoría del derecho y de la democracia (Vol. 1). Trotta.
Fiss, O. M. (2004). La ironía de la libertad de expresión. Gedisa.
Garay, A. (2016). La libertad de expresión y el discurso de odio en internet. Revista del Instituto Interamericano de Derechos Humanos, (68), 115-142.
Garay, A. (2021a). La libertad de expresión en el entorno digital: Test tripartito y nuevos desafíos. Editorial Astrea.
Garay, A. (2021b). Libertad de expresión, plataformas digitales y el desafío de la moderación privada. En Derecho, Tecnología y Sociedad (pp. 45-68). Abeledo Perrot.
Garay, A. F. (2014). La libertad de expresión en la jurisprudencia de la Corte Suprema [Tesis de maestría, Universidad de San Andrés]. Repositorio San Andrés. hdl.handle.net
García Ramírez, S. (2006). La jurisprudencia de la Corte Interamericana de Derechos Humanos. UNAM / Corte IDH.
García Roca, J. (2010). El margen de apreciación nacional en la interpretación del Convenio Europeo de Derechos Humanos. Civitas.
Grimm, D. (2009). Constitutionalism: Past, present, and future. Oxford University Press.
Habermas, J. (2010). Facticidad y validez: Sobre el derecho y el Estado democrático de derecho en términos de teoría del discurso (4.ª ed.). Trotta.
Kaye, D. (2019). Speech police: The global struggle to govern the internet. Columbia Global Reports.
Lanza, E. (2017). Estándares para una Internet libre, abierta e incluyente. Relatoría Especial para la Libertad de Expresión de la CIDH.
Lessig, L. (2006). Code: And other laws of cyberspace, version 2.0. Basic Books.
Llansó, E. (2015). Los riesgos de la delegación de la censura: El test tripartito y la moderación de contenidos privados. Estudios de Derecho Público.
Llansó, J. (2020a). Moderación de contenidos con inteligencia artificial: ¿Un nuevo paradigma para la libertad de expresión? En Derecho, Tecnología y Sociedad.
Llansó, J. (2020b). La inteligencia artificial y la moderación de los discursos de odio en internet. Sur - Revista Internacional de Derechos Humanos, 17(30), 155-163.
Loreti, D., y Lozano, G. (2014). El derecho a la comunicación: La libertad de expresión en el siglo XXI. Siglo XXI Editores.
Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2012, 5 de octubre). Plan de Acción de Rabat sobre la prohibición de la apología del odio nacional, racial o religioso que constituye incitación a la discriminación, la hostilidad o la violencia. Naciones Unidas. https://www.ohchr.org/sites/default/files/Rabat_threshold_test_Spanish.pdf
Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2020, 15 de mayo). Prueba de umbral sobre discurso de odio. https://www.ohchr.org/es/stories/2020/05/threshold-test-hate-speech-now-available-32-languages
Organización de los Estados Americanos. (2017). Estándares para una Internet libre, abierta e incluyente. Relatoría Especial para la Libertad de Expresión de la Comisión
Interamericana de Derechos Humanos. www.oas.org
Parlamento Europeo. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas sobre Inteligencia Artificial (Ley de Inteligencia Artificial). eur-lex.europa.eu
Presno Linera, M. Á. (2014). Los derechos fundamentales como reglas. Marcial Pons.
Presno Linera, M. Á. (2017). Libertad de expresión y discursos de odio en la jurisprudencia del Tribunal Europeo de Derechos Humanos. Anuario de la Facultad de Derecho de la Universidad de Alcalá, 161-186.
Presno Linera, M. Á. (2019a). Libertades de expresión e información: Su ejercicio y sus límites. En Lecciones de Derecho Constitucional. Ediciones de la Universidad de Oviedo.
Presno Linera, M. Á. (2019b). La libertad de expresión en la jurisprudencia del Tribunal Europeo de Derechos Humanos y del Tribunal Constitucional (Segunda parte) (Cuadernos digitales de formación n.º 23). Consejo General del Poder Judicial.
Presno Linera, M. Á. (2022). La constitución digital: Derechos fundamentales y libertades públicas en la red. Editorial Marcial Pons.
Prieto Sanchís, L. (2003). Justicia constitucional y derechos fundamentales. Trotta.
Relatoría Especial para la Libertad de Expresión (RELE). (2023a). Libertad de expresión e inteligencia artificial (OEA/Ser.L/V/II). Comisión Interamericana de Derechos Humanos. https://www.oas.org/es/cidh/expresion/informes/vigilanciaRELE.pdf
Relatoría Especial para la Libertad de Expresión (RELE). (2023b). Estándares interamericanos sobre libertad de expresión e inteligencia artificial: Guía para la moderación de contenidos en entornos digitales. Comisión Interamericana de Derechos Humanos.
Schauer, F. (2004). Las reglas en juego: Un examen filosófico de la toma de decisiones basada en reglas en el derecho y en la vida cotidiana. Marcial Pons.
Smet, S. (2017). Resolving conflicts between human rights: The case law of the European Court of Human Rights. Oxford University Press.
Sunstein, C. R. (2017). #Republic: Divided democracy in the age of social media. Princeton University Press.
Sunstein, C. R. (2021). Liars: Falsehoods and free speech in an age of deception. Oxford University Press.
TEDH. (1976). Caso Handyside v. The United Kingdom. Demanda No. 5493/72. Serie A No. 24.
TEDH. (2015). Caso Delfi AS c. Estonia [Gran Sala]. Demanda No. 64569/09. Sentencia de 16 de junio de 2015.
TEDH. (2016). Caso Magyar Tartalomszolgáltatók Egyesülete (MTE) e Index.hu Zrt c. Hungría. Demanda No. 22947/13. Sentencia de 2 de febrero de 2016.
TEDH. (2020). Caso Beizaras y Levickas c. Lituania. Demanda No. 41288/15. Sentencia de 14 de enero de 2020.
Tribunal Europeo de Derechos Humanos. (2019). Guía sobre el Artículo 10 de la Convención Europea de Derechos Humanos: Libertad de expresión. Consejo de Europa. www.echr.coe.int.
Tushnet, R. (2014). Power without responsibility: Intermediaries and the First Amendment. George Washington Law Review.
Voorhoof, D. (2014). The right to freedom of expression and information under the European human rights system. Robert Schuman Centre for Advanced Studies.
Waldron, J. (2005). Derecho y desacuerdos (J. L. Martí y Á. Quiroga, Trads.). Marcial Pons.
Waldron, J. (2012). The harm in hate speech. Harvard University Press.
Zagrebelsky, G. (2011). El derecho dúctil: Ley, derechos, justicia (M. Gascón, Trad.; 10.ª ed.). Trotta