Los resultados de la búsqueda incluyeron muchas cosas que Bates no necesitaba (como los efectos secundarios del medicamento, que se enumeran en el paquete) y muy poca información que necesitaba: cómo se sentían realmente las personas al tomarlo y si aquellos que habían experimentado efectos secundarios de las píldoras anticonceptivas ( como ella) tuvo algún problema con eso. Entonces, instintivamente recurrió a las mujeres en su vida, tanto en persona como en línea, en busca de ayuda. La magnitud de la respuesta la impresionó: la gente se puso en acción, ofreciendo sus experiencias de primera mano y consejos en abundancia. Estas respuestas hicieron que Bates se sintiera mucho más cómoda comprando y tomando anticonceptivos de emergencia que cuando estaba armada solo con los resultados de Google.
Ahora, Bates está embotellando los beneficios únicos del crowdsourcing social en el motor de búsqueda que desearía haber tenido entonces, impulsado por muchos, muchos más amigos. Ingresar: diem, el «motor de búsqueda social» que se basa en el conocimiento colectivo de mujeres y personas no binarias, así como en inteligencia artificial (IA), para crear un centro de conocimiento amigable e informativo. La cofundadora de Bates y Diem, Divia Singh, lanzó Diem en versión beta pública en octubre de 2021, y después de refinar a través de pruebas beta con miles de usuarios, acaban de lanzar el producto final.
Cómo Diem combina IA con contenido generado por la comunidad para ofrecer información precisa y aplicable
Diseñado para personas que se identifican como mujeres y personas no binarias entre los veinte y treinta años, Diem tiene como objetivo tomar todo el conocimiento, la sabiduría y el humor identificable que vive en tantos chats grupales individuales, organizarlo en un lugar fácil de buscar y potencia esa base de datos con IA. El objetivo es devolver respuestas simples a las preguntas que plantea la gente.
Piense en Diem como una combinación de Quora, Reddit y ChatGPT: los usuarios pueden hacer sus preguntas a la comunidad y responder las preguntas de los demás, y se les anima a interactuar para que las respuestas sean lo más detalladas, divertidas, personales y perspicaces posible.
Piense en Diem como una combinación de Quora, Reddit y ChatGPT: los usuarios pueden hacer sus preguntas a la comunidad y responder las preguntas de los demás, y se les anima a interactuar para que las respuestas sean lo más detalladas, divertidas, personales y perspicaces posible. Al mismo tiempo, el componente de IA recopila datos de esas interacciones entre los usuarios de Diem, así como de Internet en general, y los utiliza para generar respuestas completas pero muy relevantes a las preguntas.
Historias relacionadas
Por ejemplo, supongamos que desea saber cuánto cuesta congelar sus óvulos. Usted escribiría esa pregunta en Diem, y el componente de IA utilizaría su base de datos de Internet más amplia y el contenido aportado por los usuarios de Diem para generar una respuesta de una oración y una más larga. Y recibiría ambos, junto con todas las publicaciones generadas por la comunidad sobre el tema, en caso de que estuviera interesado en desplazarse por ellas.
De esta manera, Diem combina la facilidad de la IA con la personalización del conocimiento de mujeres reales y personas no binarias: el mismo tipo de información anecdótica y experiencias de vida y chisme a menudo despriorizados por los motores de búsqueda debido al sesgo (más sobre eso a continuación). Es la combinación, dice Bates, lo que hace que la información sobre Diem sea útil y directamente aplicable a las personas de estas comunidades. “La forma en que siempre hemos pensado acerca de la construcción es: ‘¿Cómo podemos crear un espacio en el que puedan buscar los conocimientos colectivos de sus comunidades?’”, dice. “Si puede construir colectivamente con su comunidad, da forma a la voz, los datos y la experiencia, y termina sintiéndose diferente”.
El problema del sesgo de género en los motores de búsqueda y las plataformas de IA
Debido a que el sesgo de género prevalece en la sociedad en su conjunto, también existe dentro de los algoritmos de los motores de búsqueda de Internet y alimenta la brecha de información de género. Es la misma brecha a la que se enfrentó Bates al tratar de encontrar información aplicable y relacionada con la píldora del día después en 2018.
Como evidencia, considere la resultados de un estudio de 2022, para lo cual los investigadores buscaron determinar si las búsquedas de imágenes de Google en países con puntajes más altos de desigualdad de género (evaluados con el Índice Global de Brecha de Género) también demostrarían un sesgo de género. Para ello, realizaron una búsqueda de la palabra «persona» en el idioma local de 37 países en su primer estudio y de 52 países en el segundo. En todos los casos, los resultados de búsqueda de Google en países con mayores niveles de desigualdad social de género también revelaron una mayor disparidad de género (lo que significa que un mayor porcentaje de los primeros 100 resultados de imágenes mostraban un hombre frente a una mujer).
También se ha descubierto que los nuevos bots de IA perpetúan el sesgo de género. Por ejemplo, Bloomberg reportado que un científico computacional hizo que ChatGPT escupiera un código que decía que solo los hombres asiáticos o blancos serían buenos científicos; el CEO de la compañía respondió al científico en Twitter, alentando a los usuarios a «rechazar» tales respuestas para ayudar al programa a aprender a no propagar prejuicios.
Cuando le hice una pregunta similar a ChatGPT, dijo que no es apropiado usar el género o la raza de alguien para determinar si se destacaría en una profesión. Pero si bien parece que la IA actualmente está aprendiendo a ser menos sesgada, todavía depende de usuarios objetivos y compasivos para entrenarla de esa manera. (Mientras que la IA de Diem está mayormente entrenada en información creada por y para mujeres y personas no binarias y, por lo tanto, no está sujeto al mismo problema de prejuicio contra las mujeres desde el principio).
«La IA es tan buena como los datos con los que se entrena, y debido a que todos los humanos tienen sesgos y prejuicios, cuando se usan sus datos, esos sesgos y prejuicios se vuelven parte de la IA». —Nina Vasan, MD, psiquiatra
Estos hallazgos ilustran cómo los sesgos que mantenemos como personas se transfieren naturalmente a los productos que creamos y los conjuntos de datos a los que contribuimos. «La IA es tan buena como los datos con los que se entrena, y debido a que todos los humanos tienen sesgos y prejuicios, cuando se usan sus datos, esos sesgos y prejuicios se vuelven parte de la IA», dice el psiquiatra. Dra. Nina Vasandirector médico de la plataforma de terapia digital Real y fundador y director ejecutivo de Lluvia de ideas: El laboratorio de Stanford para la innovación en salud mental.
Cómo Diem pretende convertirse en un motor de búsqueda divertido e informativo específicamente para mujeres y personas no binarias
Dada la demografía del usuario previsto de Diem, Bates dice que piensa en la información compartida en la plataforma y generada por el chatbot como respuestas a las preguntas que tienen las personas cuando están en la «etapa de amigos» de sus vidas; las personas absorben mucha información de los amigos cuando tienen entre veinte y treinta años, dice. La idea con Diem es que obtienes perspectivas de una variedad de personas de tu edad e identidad de género con las que de otro modo no habrías interactuado, y esa comprensión colectiva beneficia a todos en la plataforma.
Debido a que la IA de Diem se alimenta con información directamente de personas de este grupo demográfico, es una plataforma representativa por diseño. A partir de ahora, miles de mujeres y personas no binarias han hecho preguntas y compartido respuestas en Diem sobre temas relevantes para ellas, especialmente en las categorías de salud personal, dinero y relaciones, que es donde la IA de Diem está mejor entrenada.
Si bien todavía está aprendiendo, se basa en un conjunto de datos patentado más amplio (similar al que utiliza ChatGPT) para encontrar información sobre preguntas que las personas de la comunidad aún no han discutido. Sin embargo, un punto de diferenciación es que todavía genera una «respuesta Diem-y resumida» para estas preguntas, dice Bates, usando conversaciones reales de Diem para informar el estilo y el tono de la respuesta.
Sin embargo, debido a que Diem sigue siendo una IA que se basa tanto en el contenido generado por el usuario como en ese conjunto de datos más amplio, ciertamente no es inmune a los problemas que enfrentan otros motores de búsqueda y chatbots de IA, incluido contenido falso, engañoso y, sí, incluso sesgado. A su vez, hay un botón dentro de la aplicación y en la versión de escritorio para denunciar abusos, y la plataforma ha publicado un conjunto de Principios de la Comunidad—que promueven cosas como «amabilidad y curiosidad» y «compromiso empático»— para garantizar la seguridad de sus usuarios y la calidad de la información.
Diem se lanza en un momento en que los funcionarios gubernamentales tanto en los Estados Unidos como en la Unión Europea están explorando formas para regular la IA, en gran parte debido a las preocupaciones anteriores. Específicamente en los Estados Unidos, la oficina del presidente Joe Biden lanzó un borrador de una Declaración de Derechos de AI en octubre, un grupo bipartidista de senadores estadounidenses encabezado por el senador Chuck Schumer está trabajando en legislación para establecer barandas alrededor de la industria, y cuatro agencias gubernamentales emitió un comunicado conjunto el mes pasado describiendo los poderes que tienen para regular la industria de manera más sólida, particularmente contra la discriminación resultante de prejuicios.
Pero Bates no se desanima al entrar en este paisaje. Ella predice que habrá un «cambio interesante en el futuro de Internet», donde las personas buscarán información que se adapte específicamente a su situación en la vida. En lugar de pedirle a Google consejos sobre citas, por ejemplo, ella espera que pronto vayas a una plataforma como Diem, que te dará respuestas derivadas de personas con una experiencia de vida similar a la tuya.
«En este momento, existimos en monopolios, y eso afecta la forma en que usamos Internet y lo que esperamos de las plataformas», dice Bates. Después de todo, esos monopolios a menudo reflejan un sesgo a favor de los hombres. «Creo que el futuro de Internet ofrecerá más experiencias de nicho», dice. ¿Y quién puede decir que un nicho es necesariamente pequeño? Como señala Bates, las personas que se identifican con las mujeres constituyen un parte casi igual de las personas del planeta. Y ahora, hay un grupo de chat gigante esperando su opinión.
Nuestros editores seleccionan estos productos de forma independiente. Hacer una compra a través de nuestros enlaces puede generar una comisión para Well+Good.