Algoritmos IA para mejorar el mundo: El enfoque de Manish Raghavan para abordar problemas sociales a través de la computación.

La inteligencia artificial (IA) y el uso de algoritmos computacionales han transformado de manera acelerada nuestra forma de vivir, de trabajar y de comprender el mundo que nos rodea. Desde su aplicación en diagnósticos médicos hasta la optimización de procesos industriales, el poder de la IA para la toma de decisiones y el análisis de datos a gran escala está revolucionando diversas industrias y servicios. Sin embargo, junto con este progreso surgen también interrogantes esenciales: ¿Cómo podemos asegurarnos de que estas herramientas no perpetúen o amplifiquen discriminaciones históricas? ¿Cómo podemos dirigir su uso para resolver problemas sociales complejos y arraigados?

En el Instituto Tecnológico de Massachusetts (MIT), el profesor asistente Manish Raghavan se ha propuesto responder a estas preguntas. Según explica en distintas entrevistas y publicaciones, su motivación principal no es únicamente desarrollar mejores herramientas tecnológicas, sino hacerlo con el fin de “lograr mejores soluciones para problemas sociales de larga data”. Raghavan, quien ocupa la cátedra Drew Houston Career Development Professor, desarrolla su labor académica en la MIT Sloan School of Management y en el Departamento de Ingeniería Eléctrica y Ciencias de la Computación (EECS) del MIT Schwarzman College of Computing. Además, es investigador principal en el Laboratorio de Sistemas de Información y Decisión (LIDS).

Este artículo se adentra en la visión de Raghavan y en su trayectoria, explorando cómo su trabajo busca mitigar los riesgos de la inteligencia artificial y, al mismo tiempo, aprovechar sus ventajas para enfrentar problemas sociales profundos. Recorremos su investigación sobre la utilización de la IA en la contratación de personal, la colaboración con expertos en el ámbito médico, el papel de las redes sociales en la satisfacción de los usuarios y su perspectiva acerca de cómo la IA puede revelar nuevas dimensiones de la naturaleza humana.

Una motivación inicial: Resolver problemas sociales de larga data

Las nuevas tecnologías asociadas a la inteligencia artificial han sido adoptadas de forma masiva en sectores como la salud, la industria manufacturera, el transporte y los servicios financieros, entre otros. Su capacidad de analizar ingentes volúmenes de datos ha dado lugar a sistemas predictivos con una precisión sin precedentes. Sin embargo, en paralelo, también han surgido preocupaciones legítimas sobre el impacto de estos sistemas en términos de justicia, transparencia y rendición de cuentas.

En este contexto, Raghavan y su equipo se enfocan en dos líneas de trabajo complementarias:

1. Mitigar riesgos y sesgos en las herramientas de IA que están reemplazando o complementando la toma de decisiones humanas.
2. Identificar aplicaciones y oportunidades donde la IA pueda contribuir a resolver problemas sociales que, en muchos casos, han sido difíciles de abordar con métodos tradicionales.

Este interés por el impacto social se hace patente en las palabras de Raghavan cuando sostiene que su mayor deseo es que su trabajo académico, lejos de servir únicamente para optimizar algoritmos de manera aislada, “empuje hacia mejores soluciones” para las grandes brechas sociales de nuestros tiempos.

Conceptos básicos sobre bases de datos

El camino de Raghavan hacia la investigación en IA

Una infancia en la cuna de la tecnología

Nacido y criado en el Área de la Bahía de San Francisco, un importante epicentro tecnológico, Raghavan creció rodeado de estímulos que potenciaron su inclinación por las matemáticas y la computación. Sus padres, ambos ingenieros de software con formación en ciencias de la computación, le sirvieron como ejemplo temprano de una carrera dedicada a la innovación tecnológica.

A pesar de este ambiente, Raghavan tuvo en un principio la inquietud de estudiar medicina, impulsado quizá por el deseo de ayudar a otros a través de la práctica clínica. Sin embargo, su pasión por las matemáticas y el cómputo resultó determinante, y finalmente optó por seguir la estela familiar y embarcarse en el estudio de las ciencias de la computación.

El giro académico: de pregrado a doctorado

Su etapa de pregrado estuvo marcada por la asistencia a una pasantía de verano en la Universidad de Cornell con el profesor Jon Kleinberg, una eminencia en los campos de informática e información. Esa experiencia fue trascendental, pues despertó en Raghavan un profundo interés por la investigación y definió su rumbo hacia el doctorado.

Raghavan completó su doctorado también en Cornell, donde escribió una tesis titulada “The Societal Impacts of Algorithmic Decision-Making” (Los impactos sociales de la toma de decisiones algorítmica). Este trabajo le valió reconocimientos como el premio de la National Science Foundation Graduate Research Fellowships Program, la beca Microsoft Research PhD Fellowship y, posteriormente, el Cornell University Department of Computer Science PhD Dissertation Award. Tras concluir sus estudios, se incorporó a la facultad del MIT en 2022.

Ventajas y desventajas de la globalización

IA en la contratación de personal: Riesgos y oportunidades

Uno de los primeros ejemplos que ilustran la visión de Raghavan sobre la IA aplicada a problemas sociales es su análisis de los sistemas algorítmicos utilizados en los procesos de contratación de personal. Hoy en día, muchas empresas recurren a sistemas automatizados que ayudan a filtrar currículums, evaluar competencias o incluso realizar entrevistas virtuales. En principio, el uso de algoritmos promete mayor eficiencia y reducción de costos. Sin embargo, también plantea el riesgo de que los sesgos o prácticas discriminatorias históricas se repliquen a gran escala.

El problema de los sesgos históricos

Según Raghavan, las herramientas que aprenden de datos históricos pueden heredar tanto fortalezas como debilidades de las decisiones humanas que sirvieron de entrenamiento. Si tradicionalmente un sector ha mostrado preferencias por candidatos de cierto género, raza o procedencia socioeconómica, los algoritmos que aprendan de esas contrataciones podrían discriminar a las mismas minorías.

Aunque Raghavan reconoce que “es difícil argumentar que las prácticas de contratación históricas hayan sido particularmente buenas o valgan la pena preservarse”, enfatiza que la adopción de sistemas de IA no resolverá mágicamente ese problema. Más bien, estos sistemas corren el riesgo de exacerbar discriminaciones, salvo que se sometan a un análisis riguroso y a estrategias de mitigación.

Mayor capacidad de observación y medición

Aun con la preocupación por la perpetuación de sesgos, Raghavan subraya las oportunidades que se abren ante la automatización de procesos. Mientras que antes las decisiones humanas podían ser opacas, difíciles de rastrear y sujetas a criterios subjetivos, un sistema algorítmico deja rastro de los criterios utilizados. Esto brinda la posibilidad de medir y detectar cuándo y cómo se producen tratamientos injustos.

La postura de Raghavan es optimista en el sentido de que, aunque los algoritmos pueden heredar sesgos, al mismo tiempo brindan transparencia que, en muchos casos, puede ser mayor que la de las decisiones 100% humanas. Esta transparencia se convierte, así, en un primer paso hacia la identificación y solución de discriminaciones sistémicas.

Hacia políticas de contratación más inclusivas

Los aportes de Raghavan y su grupo de investigación se centran en diseñar herramientas y metodologías capaces de evaluar el desempeño de los algoritmos de contratación. En el mediano plazo, el objetivo es traducir esos hallazgos en políticas claras e incentivos para las compañías, de modo que la IA no solo evite discriminar, sino que contribuya a corregir posibles desigualdades históricas.

De acuerdo con Raghavan, una combinación de transparencia, monitoreo constante y ajustes en los datos de entrenamiento o en las reglas de decisión podrían converger en un sistema más equitativo que el que hemos conocido hasta ahora. Esta labor, como enfatiza el profesor, no es meramente técnica: requiere también colaboración con expertos en legislación, ética y recursos humanos.

Colaboración entre IA y médicos: El caso de la puntuación Glasgow-Blatchford Score (GBS)

Un segundo campo en el que Raghavan ha aplicado su visión crítica y colaborativa es la medicina, un ámbito donde los algoritmos de diagnóstico y pronóstico tienen cada vez más presencia. En particular, Raghavan estudió la interacción entre un sistema algorítmico ya existente y la pericia de los médicos en el contexto de pacientes con sangrado gastrointestinal.

Qué es el GBS y por qué se utiliza

La puntuación Glasgow-Blatchford Score (GBS) es una herramienta de cribado que ayuda a los profesionales de la salud a evaluar la probabilidad de que un paciente con sangrado gastrointestinal superior presente complicaciones. Este sistema puntúa factores como los niveles de hemoglobina, la frecuencia cardíaca, la presión arterial, la presencia de ciertos síntomas clínicos o la historia médica del paciente, entre otros. Con el puntaje resultante, los médicos pueden decidir si el paciente requiere tratamiento urgente o puede ser manejado en un nivel de atención menos intensivo.

Según diversos estudios, esta puntuación algorítmica es “altamente precisa” e incluso comparable al criterio clínico de los especialistas. Ahora bien, la precisión promedio no descarta la existencia de casos específicos donde un médico experimentado podría identificar señales que el algoritmo pasa por alto.

IA y humanos: Un trabajo colaborativo

La investigación de Raghavan explora cómo un sistema algorítmico aparentemente robusto puede mejorar al ser complementado con la evaluación de expertos médicos, y viceversa. El objetivo es determinar en qué circunstancias el juicio humano aporta un valor adicional y, por tanto, es fundamental para corregir potenciales errores del algoritmo.

Raghavan explica que “el GBS es más o menos tan bueno como los humanos en promedio, pero esto no significa que no haya pacientes concretos o pequeños grupos de pacientes en los que el GBS se equivoque y los médicos puedan acertar”. El reto consiste en identificar por adelantado esos casos en los cuales la intervención humana es especialmente valiosa, maximizando la sinergia entre IA y criterio médico.

Implicaciones en el futuro de la medicina

Este trabajo se enmarca en una tendencia cada vez más firme en la medicina moderna: el desarrollo de sistemas de apoyo a la toma de decisiones que combinan la potencia de los algoritmos de aprendizaje automático con la sabiduría clínica de los especialistas. El enfoque de Raghavan y sus colaboradores podría allanar el camino para diseñar alertas inteligentes o “banderas rojas” que indiquen al médico cuándo no confiar exclusivamente en la recomendación de la máquina.

En última instancia, esta visión colaborativa confía en la tecnología para reducir cargas de trabajo y errores sistemáticos, sin descuidar la responsabilidad final del profesional de la salud y su criterio.

Redes sociales y la balanza entre gratificación inmediata y bienestar a largo plazo

Si el uso de la IA para la contratación o la medicina parece evidente, el estudio de su aplicación en redes sociales resulta a la vez más complejo y ubicuo. Las plataformas digitales se basan en algoritmos para personalizar los contenidos que muestran a cada usuario, aprendiendo de su comportamiento previo para ofrecerle más de lo mismo. Esto genera una paradoja: lo que el usuario “elige” ver en un momento dado no siempre coincide con lo que desearía a largo plazo para su propio bienestar.

El conflicto entre placer instantáneo y satisfacción duradera

En palabras de Raghavan, la manera en que un usuario selecciona contenidos a veces se asemeja a la elección de comer solo “papas fritas” o “papas de bolsa”: aunque es sabroso y gratificante en el momento, puede dejar una sensación de malestar posterior. En el contexto de las redes sociales, se observa un comportamiento similar cuando los algoritmos terminan alimentando una dieta de contenido que no es la más constructiva ni empodera a los usuarios en el largo plazo.

Un modelo matemático del comportamiento en redes

En colaboración con otros investigadores, Raghavan desarrolló un modelo que representa a un usuario que oscila entre dos estados mentales:

1. Deseo de gratificación inmediata: Prefiere el contenido más adictivo, entretenido o que más coincide con sus sesgos o deseos de confirmación.
2. Búsqueda de satisfacción a largo plazo: Entiende que una mejor “dieta” de información y contenido puede aportarle más valor y bienestar a lo largo del tiempo.

Este modelo, premiado con el Exemplary Applied Modeling Track Paper Award en la Conferencia de la Association for Computing Machinery (ACM) sobre Economía y Computación de 2022, demuestra cómo el diseño de la plataforma puede modificarse para equilibrar estos dos tipos de preferencias. Una plataforma que solo priorice el tiempo de permanencia o las métricas de clics tiende a reforzar la gratificación inmediata, mientras que una plataforma que busque la satisfacción a largo plazo podría diseñar algoritmos que, de forma intencional, diversifiquen el contenido sugerido o limiten la exposición excesiva a temas repetitivos.

Beneficios compartidos para usuarios y empresas

La argumentación de Raghavan va un paso más allá. Sostiene que, a largo plazo, también las empresas tecnológicas podrían verse favorecidas si los usuarios se mantienen sanos y satisfechos con la plataforma. Un usuario que se siente “enfermo” o saturado de contenido tóxico terminará abandonando la red, lo que a la larga perjudica los intereses de la compañía.

Para Raghavan, es posible alinear intereses de usuarios y corporaciones siempre que estas últimas comprendan los beneficios de una comunidad en la que el usuario experimente bienestar continuo. Si bien reconoce que esta perspectiva puede resultar idealista, también insiste en que muchos empleados de las grandes tecnológicas están dispuestos a encontrar puntos intermedios que satisfagan a las partes interesadas.

El proceso creativo y la filosofía de investigación de Raghavan

Más allá de los casos de estudio, hay una pregunta latente: ¿cómo se gestan las ideas de Raghavan? El profesor resalta la importancia de la incubación de los problemas, es decir, pasar un tiempo pensando en ellos, dejarlos reposar y luego volver a abordarlos con una perspectiva fresca. Aconseja a sus estudiantes que, cuando se topen con un obstáculo insalvable, se tomen un descanso y retomen la tarea al día siguiente.

Esta filosofía conecta con una visión de la investigación que valora la persistencia y la iteración continua de ideas, en lugar de esperar a que la inspiración surja de forma espontánea. Raghavan remarca la importancia de la paciencia, la curiosidad y el trabajo colectivo en la generación de conocimiento.

Una pasión fuera de los laboratorios: El fútbol

El profesor Raghavan ha encontrado además un equilibrio en sus actividades cotidianas gracias al fútbol, deporte que practica desde hace años. Actualmente, es entrenador del Harvard Men’s Soccer Club y confiesa que esta ocupación deportiva “le da algo que esperar con anhelo al final del día”. Dedicar parte de su agenda a los entrenamientos no solo lo ayuda a administrar mejor su tiempo, sino también a mantener la salud mental necesaria para enfrentar retos académicos y de investigación.

“Si sé que por la noche voy a estar en el campo de fútbol, no puedo postergar demasiado mi trabajo”, bromea Raghavan. Esta combinación de deporte y estudio revela un rasgo distintivo de su personalidad: busca el equilibrio y reconoce que la vida fuera del entorno académico también enriquece el trabajo intelectual.

El papel de la IA en la comprensión de la sociedad y de nosotros mismos

El interés de Raghavan por la IA no se limita a mejorar procesos administrativos o industriales; implica, asimismo, la posibilidad de desentrañar dinámicas sociales y de comportamiento humano. Hoy se discute que el gran volumen de datos y la enorme capacidad de procesamiento de la IA ofrecen una ventana para examinar patrones sociales que, de otra manera, permanecerían ocultos.

Herramientas para el estudio del comportamiento colectivo

Las plataformas digitales y su despliegue de algoritmos recaban multitud de datos acerca de cómo se comportan las personas en línea: qué contenidos prefieren, cómo interactúan con los demás usuarios o cómo cambian de opinión con el paso del tiempo. Como lo explica Raghavan, estos rastros digitales ofrecen un “microscopio” que ayuda a entender la complejidad social.

Con el uso adecuado de técnicas de aprendizaje automático, es factible detectar tendencias y responder preguntas complejas: ¿Qué discursos generan polarización en una comunidad? ¿Cómo evolucionan las redes de desinformación? ¿Qué motiva la cooperación o la división en línea? Estas preguntas se convierten en temas de estudio de investigadores no solo de informática, sino también de sociología, psicología y antropología.

Convergencia de disciplinas y responsabilidad compartida

Un punto clave es la convergencia de diversas disciplinas. Para Raghavan, la IA deja de ser un campo aislado y se fusiona con las ciencias sociales, requiriendo la colaboración de expertos en comportamiento humano, ética, políticas públicas y derecho. Solo así pueden surgir soluciones efectivas para problemas tan complejos como la desinformación, el discurso de odio o la manipulación electoral.

Sin embargo, tal como insiste Raghavan, esta convergencia no está exenta de responsabilidad. Se necesitan marcos éticos y legales que guíen el uso de los datos, protejan la privacidad de los usuarios y promuevan un uso justo y equitativo de las tecnologías. Las universidades, los centros de investigación y las empresas tecnológicas deben abordar conjuntamente el delicado equilibrio entre la innovación y la responsabilidad social.

Autoexploración y construcción de mejores sociedades

En palabras del profesor, lo más emocionante de la IA es la posibilidad de que nos ofrezca revelaciones acerca de “nosotros mismos”. Tal vez, los algoritmos que creamos para satisfacer nuestras necesidades o para resolver tareas complejas servirán también para comprender mejor la naturaleza de la conducta humana y nuestros patrones colectivos de aprendizaje y decisión.

Esta mirada introspectiva nos plantea la esperanza de que la IA no solo sea un instrumento para ganar eficiencia, sino un catalizador para una transformación social positiva. Comprender mejor el sesgo, la desigualdad o el deseo de gratificación inmediata podría ser el primer paso para construir sociedades más justas, solidarias y conscientes de su propia falibilidad.

OpenAI lanza ChatGPT Gov

Desafíos y perspectivas a futuro

Regulación y normativas emergentes

Mientras la IA avanza, los marcos jurídicos e institucionales intentan ponerse al día. El trabajo de Raghavan deja en claro que la adopción de IA en ámbitos sociales —contratación, salud o redes sociales— es un asunto demasiado importante como para quedar en manos de la autorregulación de las empresas. Es preciso que haya políticas públicas, normas y organismos de supervisión que se actualicen en relación con la evolución tecnológica.

Uno de los desafíos más urgentes es definir criterios claros de transparencia, de manera que se haga público el funcionamiento básico de los algoritmos que afectan las vidas de las personas. Del mismo modo, es fundamental concretar las responsabilidades legales en caso de que un algoritmo cause daños o discriminaciones. Estas cuestiones trascienden el ámbito técnico y requieren un debate colectivo que involucre a gobiernos, academia, sociedad civil y sector privado.

Educación y concientización

Otro factor crítico es la formación de profesionales y ciudadanos informados sobre los riesgos y beneficios de la IA. La propuesta de Raghavan para “usar la IA con fines sociales positivos” no podrá concretarse sin un público que comprenda los fundamentos y los límites de los algoritmos.

En ese sentido, las universidades están asumiendo un papel clave, ofreciendo programas multidisciplinares que incorporan no solo la formación técnica, sino también el estudio de la ética, la filosofía y las implicaciones socioeconómicas de la IA. La meta es crear perfiles de egresados que sean capaces de dialogar con científicos, pero también con políticos, juristas y líderes comunitarios.

Innovación centrada en el ser humano

Por último, el trabajo de Raghavan y de otros investigadores indica que es viable —y deseable— desarrollar innovación tecnológica con un claro enfoque humanista, en el que el bienestar de las personas se sitúe en el centro de la ecuación. Esto cobra mayor fuerza en áreas como la salud, la educación y la inclusión financiera, donde la IA puede amplificar el acceso y la calidad de los servicios, especialmente para poblaciones vulnerables.

Un caso paradigmático es el de la medicina personalizada, donde la IA podría identificar patrones genéticos y de hábitos de vida para sugerir tratamientos diseñados a la medida de cada individuo. Otro caso es el uso de algoritmos de aprendizaje para ofrecer planes de estudio adaptativos que ayuden a reducir la brecha educativa. Estas posibilidades son ya objeto de investigación en múltiples centros de excelencia, incluido el MIT, y cuentan con el potencial de redefinir la relación de la tecnología con la sociedad.

Conclusiones

La historia de Manish Raghavan es la historia de un investigador apasionado no solo por la resolución de retos técnicos, sino también por la mejora de la sociedad a través de la tecnología. Su influencia se extiende más allá de los dominios habituales de la computación, integrándose con áreas como la medicina, la gestión empresarial, la sociología y la ética.

Raghavan encarna la necesidad de repensar el uso de la IA con una perspectiva multidisciplinaria y de largo plazo. A través de su trabajo sobre sesgos en la contratación, la colaboración entre médicos y algoritmos y el equilibrio en las plataformas de redes sociales, ilustra cómo la IA puede dirigirse hacia la identificación y corrección de problemas históricos y estructurales, en lugar de simplemente reproducirlos.

Su enfoque parte de la convicción de que la IA se encuentra todavía en una etapa incipiente en cuanto a su potencial para el bien social, y que la visibilidad y la trazabilidad de los algoritmos pueden servir como palancas para hacer el sistema más justo y transparente. También nos recuerda la importancia de integrar a los profesionales humanos en los procesos de decisión, para aprovechar el juicio experto y la capacidad de empatía, factores que la IA, de momento, no puede sustituir de manera efectiva.

Las reflexiones de Raghavan sobre el uso de la IA para entender mejor la naturaleza humana son quizá la contribución más trascendental de su pensamiento. En un futuro no muy lejano, las técnicas algorítmicas podrían revelar patrones de comportamiento que, hasta ahora, han permanecido en la penumbra de la complejidad social. Este conocimiento —siempre que se maneje con responsabilidad y respeto a la dignidad humana— podría inspirar nuevas estrategias para resolver grandes retos, como la desigualdad, la polarización política o la degradación ambiental.

Finalmente, el ejemplo personal de Raghavan, que combina su intensa labor académica con actividades deportivas y una vida equilibrada, apunta a la relevancia de la humanidad detrás de cada logro tecnológico. Incluso los algoritmos más sofisticados son diseñados y empleados por seres humanos, quienes deben mantenerse conectados con la realidad cotidiana y los valores que constituyen la base de nuestras comunidades. Este matiz es crucial: una IA para un mundo mejor no surge de forma espontánea, sino a partir de la determinación y la visión de individuos comprometidos con la justicia y el progreso compartido.

En suma, la trayectoria de Manish Raghavan y su apuesta por una IA inclusiva, colaborativa y orientada al bien común representan una luz de esperanza y un modelo a seguir en el desarrollo de tecnologías de última generación. Sus investigaciones en la contratación equitativa, la medicina predictiva y la moderación de las redes sociales dibujan un horizonte en el que la IA podría no solo agilizar nuestras tareas y procesos, sino también orientarnos hacia una sociedad más justa y comprensiva.

Como él mismo afirma: “Espero que podamos usar la IA para comprendernos mejor a nosotros mismos”. Este anhelo subraya la idea de que la verdadera revolución tecnológica no se limita a la automatización, sino que implica una comprensión más profunda de la esencia humana, algo que, con suerte, nos guiará hacia un futuro donde la ciencia, la ética y la empatía converjan para resolver los desafíos sociales de nuestro tiempo.

Fuente principal

Algorithms and AI for a better world. (2025, January 16). MIT News | Massachusetts Institute of Technology. https://news.mit.edu/2025/algorithms-ai-better-world-manish-raghavan-0116

---