Al y los desafíos globales: desarrollo ético y despliegue responsable
CCIT / CAST | Marco MEDICI de la CE | Vigilancia de las TIC - Indonesia | Instituto Jaipuria de Gestión Noida | Proyecto Kamusi Internacional | Activismo Virtual | Universidad de Loughborough
Sesión 199
El surgimiento de la IA en el Sur Global es una cuestión apremiante que aún debe contar con el consentimiento o la participación de la gran mayoría de la población. Los defensores de la tecnología de IA tienen el escenario y los recursos para seguir adelante con pocas restricciones. Sin embargo, la mayoría de las personas siguen sin expresarse ante los acontecimientos que afectan sus vidas y sus medios de subsistencia.
Reconociendo que una discusión en un panel de alto nivel en una cumbre de la CMSI está alejada de muchas capas de los aportes y experiencias de la mayoría de las personas que pueden verse afectadas por las implicaciones de tecnologías en las que no tienen voz, el panel busca, no obstante, promulgar una consideración por quienes ocupan posiciones de poder e influencia en torno a estas cuestiones temáticas urgentes:
- ¿En qué medida la búsqueda de la IA es un enfoque correcto o necesario para abordar los ODS en el Sur Global?
- ¿Quién controla la búsqueda de IA y en qué medida está impulsada por el altruismo o la búsqueda de poder o ganancias?
- ¿En qué medida la IA es una imposición de los valores y normas de las sociedades que están a la vanguardia de su desarrollo?
- ¿Cómo se pueden dirigir estas tecnologías hacia el beneficio de las personas que no tienen control sobre ellas y que no pueden optar por no participar?
- ¿Cómo se puede proteger a las personas del uso extractivo o coercitivo de las tecnologías de IA ?
- ¿Existen oportunidades para que las múltiples partes interesadas dirijan la evolución de la IA desde abajo, o está inherentemente determinada por las personas que controlan las palancas?
Persona fuente (orden alfabético):
- Alfredo M. Ronchi (Marco MEDICI CE, polimi.it)
- Anuja Shukla (Instituto Jaipuria de Gestión de Noida, jaipuria.ac.in)
- Donny BU (ICT Watch - Indonesia, ictwatch.id)
- Marlyn Tadros (Activismo virtual, virtualactivism.org)
- Martín Benjamín (Proyecto Kamusi Internacional, kamusi.org)
- Waley Wang (CCIT/CAST, english.cast.org.cn)
- Nick Hajli (Profesor de Estrategia Digital en Loughborough Business School)
Prof. Alfredo Ronchi, Secretario GeneralMarco EC MEDICI.
Alfredo M. Ronchi es profesor en el Politecnico di Milano (Facultad de Ingeniería), experto/asesor en servicios electrónicos, jefe del JRC S2D2 (Seguridad, protección, defensa, recuperación y gestión de desastres), secretario del marco EC-MEDICI de Cooperación, delegado en la IFAP de la UNESCO y miembro activo de la CMSI desde su creación (2003-/).
El Sr. Ronchi es miembro de las siguientes juntas directivas: miembro de la junta directiva de AI&Society (Springer Nature), junta directiva del Foro Global (Francia), miembro emérito de la junta directiva del Premio de la Cumbre Mundial (Austria), junta directiva de la Asociación Europea de Educación para la Nueva Sociedad (ENSA). Francia). Miembro de la Universidad Keio NoE (Japón). Miembro del Consejo Asesor de la Facultad de Derecho de la Universidad GD Goenka (Nueva Delhi, India).
Ha cooperado como organizador o presidente de programa en conferencias W3C, ACM, IEEE e ITU-WSIS; Durante más de treinta y cinco años, ha organizado y gestionado proyectos, conferencias y talleres internacionales. Es autor y colaborador de más de 400 artículos y varios libros sobre cultura electrónica, gobierno electrónico, seguridad y servicios electrónicos.
Anuja Shukla trabaja como profesora asociada en el Jaipuria Institute of Management, Noida. Tiene más de 12 años de experiencia docente con más de 24 publicaciones en papel. Sus artículos de investigación han sido publicados en revistas de renombre, como International Journal of Information Management, Psychology and Marketing, Journal of Research in Interactive Marketing, VISION y FIIB. También ganó premios al mejor trabajo de investigación en FMS, Symbiosis y Amity. Sus áreas de interés de investigación incluyen eWOM, comportamiento del consumidor, comercio móvil, AR/VR y tecnologías emergentes.
https://www.linkedin.com/in/donnybu
Donny BU (Sr.) es cofundador de ICT Watch en 2002, la principal organización de la sociedad civil (OSC) de Tecnologías de la Información y la Comunicación (TIC) de Indonesia que sentó las bases para la alfabetización digital a través de una campaña nacional. Recibió una beca Ashoka en 2012 por sus actividades de emprendimiento social centradas en la libertad de expresión en línea y el ciberactivismo. También es co-iniciador del Foro de Gobernanza de Internet de Indonesia (ID-IGF), una plataforma nacional para el diálogo de múltiples partes interesadas. Anteriormente enseñó ciberperiodismo, medios digitales, comercio electrónico y desarrollo de tecnologías de la comunicación en varias universidades de renombre en Yakarta. Comenzó su carrera como periodista de TIC en Detikcom en 1999, el medio en línea más destacado de Indonesia. Finalmente trabajó en la empresa como vicepresidente (VP) hasta su dimisión en 2010. Viaja mucho por Indonesia para compartir sus ideas y experiencias con varios activistas universitarios, sociedades civiles y comunidades. Participó activamente en el IGF y en la Cumbre Mundial sobre la Sociedad de la Información (CMSI), mientras desempeñaba un mandato como presidente de Siberkreasi, el Movimiento Nacional de Alfabetización Digital de Indonesia, y hasta ahora era miembro del personal experto del Viceministro de Tecnología de la Información y las Comunicaciones de Indonesia. Se le puede contactar por correo electrónico a dbu [arroba] donnybu.id
Profesor de Comunicación y Artes de los Medios en la Universidad Southern New Hampshire y fundador y director ejecutivo de Virtual Activism, que se ocupa de la intersección de la tecnología y los derechos humanos y del cierre de la brecha digital. .
Tadros fue investigador asociado en el Centro de Oriente Medio de la Universidad Northeastern y también fue investigador visitante en su Departamento de Mujeres. Enseñó derechos humanos y estudios de Oriente Medio en el Departamento de Ciencias Políticas. Además, fue miembro visitante del Programa de Derechos Humanos de la Universidad de Harvard.
Formado como antropólogo con enfoque en ayuda internacional en África. Hizo la transición a la lingüística computacional, dirigió Kamusi para desarrollar tecnología lingüística con un enfoque en lenguas marginadas y sirvió como emisario delegado de la Academia Africana de Idiomas (Unión Africana) para tecnología lingüística. Trabajo adicional como creador de contenido, especialmente en relación con la inteligencia artificial, la tecnología del lenguaje y cuestiones de equidad lingüística, en http://youtube.com/@pirateprofessor
Waley Wang es un investigador con más de diez años de experiencia en ingeniería de inteligencia artificial e inteligencia de decisiones, y ahora es fundador y presidente de WengeTech.&D2 Intelligence en el extranjero desde 2017. Ahora Wenge Tech. La corporación ha crecido hasta convertirse en una de las principales empresas de inteligencia cognitiva y de decisiones. Él y su equipo se dedican a desarrollar productos de IA empresarial, incluidos grandes modelos de lenguaje, modelos multimodales y plataformas de IA de dominios específicos para mejorar la eficiencia y la productividad de las operaciones, especialmente en los medios, las finanzas, la atención médica y otras industrias. La empresa tiene alrededor de 800 empleados y ofrece productos y servicios de inteligencia artificial para miles de usuarios gubernamentales y empresariales.
El profesor Nick Hajli es estratega de inteligencia artificial y profesor de estrategia digital en la Loughborough Business School. Obtuvo su doctorado en Gestión en Birkbeck, Universidad de Londres. Con una presencia notable en los círculos académicos, Nick cuenta con una cartera de 100 publicaciones en revistas prestigiosas. Su investigación ha obtenido reconocimiento en publicaciones líderes como las revistas FT50 y ABS 4. Ha recibido prestigiosos reconocimientos, incluido el reconocimiento como uno de los mejores científicos del 2% a nivel mundial por Stanford y como autor muy citado a nivel mundial por Elsevier.
-
C1. La función de los gobiernos y de todas las partes interesadas en la promoción de las TIC para el desarrollo
-
C4. Creación de capacidades
-
C5. Crear confianza y seguridad en la utilización de las TIC
-
C10. Dimensiones éticas de la sociedad de la información
-
C11. Cooperación internacional y regional
La sesión profundiza en la influencia generalizada de la inteligencia artificial (IA) y las tecnologías digitales a nivel mundial, centrándose explícitamente en consideraciones éticas y la brecha digital que afecta las identidades culturales y las estructuras sociales. Subraya que, si bien la IA tiene el potencial de revolucionar varios sectores, también plantea riesgos importantes, incluidos prejuicios y violaciones de la privacidad, que pueden afectar desproporcionadamente a las poblaciones vulnerables. El debate subraya la necesidad crítica de directrices éticas y una gobernanza responsable para mitigar sus impactos negativos.
Al discutir las implicaciones globales de la IA, la discusión plantea preocupaciones sobre la homogeneización del contenido distribuido a través de Internet, lo que potencialmente amenaza las identidades culturales. Critica el predominio de datos de países occidentales en el entrenamiento de sistemas de IA, lo que podría conducir a resultados que reflejen sesgos occidentales. Esta preocupación se vincula con cuestiones más amplias de equidad tecnológica, ya que el documento también aborda los riesgos de que la IA perpetúe las estructuras de poder existentes y su potencial para exacerbar las desigualdades entre el Norte y el Sur Global.
Las múltiples partes interesadas del Sur Global han participado activamente en la configuración del despliegue ético de la IA a través de políticas y debates en grupos focales. Estos esfuerzos tienen como objetivo garantizar la alineación de la IA con los valores sociales y la salvaguardia de los derechos fundamentales. Los debates se centran en varios temas, incluido el desarrollo juvenil, la protección infantil, el compromiso social, la inclusión lingüística y el empoderamiento de las mujeres, lo que refleja un enfoque integral para comprender y dirigir el impacto de la IA.
Finalmente, el texto se conecta con las líneas de acción de la Cumbre Mundial sobre la Sociedad de la Información (CMSI) al enfatizar la necesidad de cerrar la brecha digital y garantizar el acceso equitativo a las tecnologías de la información y la comunicación (TIC). Aboga por la integración de los Objetivos de Desarrollo Sostenible (ODS) en el marco de la CMSI, destacando la importancia de la sostenibilidad, el empoderamiento de las comunidades marginadas y la participación inclusiva en la economía digital. La sesión pide un enfoque equilibrado para el desarrollo de la IA, que considere tanto las oportunidades como los desafíos éticos y resuene con los objetivos de la CMSI de aprovechar el potencial de las TIC para promover los derechos humanos, aliviar la pobreza y fomentar sociedades inclusivas.
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 5: Lograr la igualdad entre los géneros y empoderar a todas las mujeres y niñas
-
Objetivo 10: Reducir la desigualdad en y entre los países
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
La sesión analiza varias cuestiones críticas relacionadas con la influencia generalizada de Internet y la inteligencia artificial (IA) en la cultura, la ética y las normas sociales globales, destacando particularmente las consecuencias para las identidades culturales y la seguridad. El debate enfatiza los riesgos asociados con la IA, como posibles violaciones de los derechos fundamentales y los desafíos para distinguir el contenido generado por humanos del producido por la IA. Se examinan críticamente los dilemas éticos que rodean el uso de la IA y sus impactos sociales, incluida la sustitución de los reguladores culturales tradicionales por algoritmos automatizados.
Además, la sesión también destacará la gobernanza de la IA para empoderar a grupos específicos a través de la IA, como los jóvenes, los niños, las mujeres y la sociedad en general, y se alineará con varios Objetivos de Desarrollo Sostenible (ODS). Por ejemplo, sus iniciativas contribuyen al ODS 4 (Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje permanente para todos), el ODS 5 (Lograr la igualdad de género y empoderar a todas las mujeres y las niñas) y el ODS 16 (Promover la justicia y sociedades pacíficas e inclusivas). ).
Si bien la IA ofrece importantes beneficios, también presenta riesgos sustanciales que requieren una gestión cuidadosa. La sesión aboga por un enfoque equilibrado para el desarrollo de la IA que considere dimensiones éticas y promueva la inclusión. Esto se alinea con los ODS al enfatizar la necesidad de un acceso equitativo a la tecnología, abordar la brecha digital y garantizar que los avances en IA contribuyan positivamente al desarrollo sostenible y empoderen a las comunidades marginadas. El diálogo en torno al tecnocolonialismo enriquece aún más esta discusión, cuestionando la imposición de tecnologías de IA en el Sur Global por parte de fuerzas externas, destacando así la necesidad de un compromiso local y el desarrollo de soluciones tecnológicas contextualmente relevantes.
La sesión también discutirá cómo se está aprovechando la IA en diversos sectores como la manufactura, la medicina tradicional china y la educación para mejorar la productividad y el desarrollo social. Esta perspectiva subraya los impactos positivos de la IA, como mejorar la eficiencia operativa y ayudar en los procesos de toma de decisiones. Sin embargo, también reconoce los desafíos, incluidos los sesgos de la IA, las preocupaciones sobre la privacidad y los riesgos de seguridad, que afectan particularmente a poblaciones vulnerables como mujeres y niños.