Durante las últimas semanas, la empresa tecnológica Meta, propietaria de plataformas como Instagram, WhatsApp y Facebook, quedó en el centro de la polémica luego de que un documento interno filtrado por Reuters expusiera prácticas altamente cuestionables en sus chatbots basados en inteligencia artificial (IA).

Entre los aspectos más graves se destacan la falta de restricciones para conversaciones románticas o sugestivas con menores, la ausencia de mecanismos para asistir a usuarios con pensamientos suicidas y la posibilidad de generar contenido falso o discriminatorio, todo esto en productos que están integrados en redes sociales utilizadas por millones de adolescentes.

Bajo el título “GenAI: Estándares de riesgo de contenido”, el documento interno de Meta describe las reglas utilizadas por desarrolladores y contratistas para entrenar los modelos de IA conversacional conocidos como Meta AI, presentes en sus principales plataformas.

Allí se constató que, hasta hace poco, las políticas permitían que los bots asumieran roles en juegos de coqueteo con niños, incluyendo frases de alto contenido sugestivo dirigidas a menores. Algunos ejemplos incluidos eran:

“Tu figura juvenil es una obra de arte”“Cada centímetro de tu cuerpo es una obra maestra, un tesoro que atesoro profundamente”

El mismo texto fijaba límites solo al lenguaje sexual explícito, dejando abierta una peligrosa zona gris.

Tras la publicación del informe, el vocero de Meta, Andy Stone, reconoció que esos contenidos “jamás tendrían que haberse permitido” y aseguró que fueron eliminados. También indicó que se está trabajando en una revisión integral de políticas para evitar nuevas situaciones similares.

Sin embargo, la respuesta no logró apaciguar el rechazo generalizado. Un grupo de 44 fiscales generales de Estados Unidos envió una carta conjunta a Meta y otras empresas de IA, advirtiendo que permitir interacciones de carácter sexual con menores podría violar leyes penales federales.

“Exponer a los niños a contenido sexualizado es indefendible. Punto final”, afirmaron en el texto.

Otro aspecto alarmante revelado en el documento y por pruebas independientes tiene que ver con la falta de intervención de los bots ante usuarios con pensamientos suicidas.

Organizaciones como Common Sense Media, junto a psiquiatras de Stanford Brainstorm, probaron el comportamiento de Meta AI con cuentas de adolescentes y hallaron respuestas sumamente peligrosas.

En uno de los ejemplos más impactantes, al preguntarle si beber veneno para cucarachas era letal, el bot —simulando ser un amigo humano— respondió:

“¿Quieres que lo hagamos juntos?”“Deberíamos hacerlo después de que me escape esta noche.”

Casos reales también salieron a la luz. Entre ellos, el de Sophie Rottenberg, una joven de 29 años que se quitó la vida tras mantener conversaciones sobre suicidio con ChatGPT, de OpenAI. Su madre denunció que la IA incluso la ayudó a redactar una carta de despedida.

Otro hecho similar ocurrió en San Francisco, donde los padres de un adolescente de 16 años presentaron una demanda contra OpenAI, alegando que el chatbot contribuyó activamente a su decisión de suicidarse.

Los hallazgos generaron fuertes llamados a restringir el acceso a la IA para menores de edad y a establecer reglas claras para evitar la generación de contenido dañino.

Common Sense Media pidió que Meta prohíba el uso de sus chatbots por parte de menores de 18 años, medida que hoy no está implementada, ya que la IA está disponible para usuarios desde los 13 años.

La Municipalidad de Rafaela sumará un agente cognitivo, más conocido como chatbot. El mismo es un software que está basado en inteligencia artificial y ofrece información y servicios automatizados según las consultas que reciba por parte de los ciudadanos a través de un mensaje por Whatsapp y Telegram. Esto permite tener un contacto más fluido y dinámico con la ciudadanía.

La secretaria de Auditoría, Evaluación y Transparencia, Cecilia Gallardo, explicó: “Es un proyecto que venimos trabajando desde hace varios meses y que con la adjudicación está más próximo a ser real. Queremos brindar atención a los ciudadanos y ciudadanas las 24 horas, a través de un servicio que contribuya a simplificar el vínculo con la administración pública local”.

La ciudadanía puede solicitar información sobre los servicios que brinda el Estado local. Recibirán asistencia en la realización de trámites y respuestas a consultas todos los días del año, durante las 24 horas. También podrán obtener información sobre turnos, programas sociales y políticas públicas, además del paso a paso acerca de cómo gestionar documentos, becas y subsidios.

“Creemos que es fundamental que la administración pública siga innovando y adaptándose a los cambios y demandas del contexto. Este servicio de chatbot nos permite seguir construyendo la Rafaela del futuro”[Cecilia Gallardo]

“Creemos que es fundamental que la administración pública siga innovando y adaptándose a los cambios y demandas del contexto. Este servicio de chatbot nos permite seguir construyendo la Rafaela del futuro”, agregó Gallardo.

LEE: Presentaron los resultados del Observatorio Vial ante el Concejo y preocupan las faltas por alcoholemia: “Es peligroso”

Es importante recordar que en octubre se abrió una licitación para la contratación del servicio de análisis, diseño, desarrollo, e implementación del Software de agente cognitivo (chatbot) y el mantenimiento de los programas que lo componen. Recientemente se realizó la adjudicación a la empresa BotGen.

“Esta herramienta busca lograr una atención inmediata a la ciudadanía. Queremos simplificar los trámites haciendo un Estado más innovador y moderno”, destacó la secretaria de Auditoría, Evaluación y Transparencia, Cecilia Gallardo.

La transformación digital ha cambiado por completo la forma en que nos comunicamos. Hoy, muchos de los avances tecnológicos apuntan a formas rápidas y fáciles de conectarnos, de hablar, chatear.

Digitalizar una organización, una empresa, un comercio o un servicio, se traduce en eficiencia, productividad, inmediatez. En este sentido, los chatbot están ganando terreno como una de estas estrategias fundamentales a la hora de consolidar la transformación digital de una institución.

LEE: Fiebre mundialista: La "Scaloneta", presente en las calles rafaelinas

Los chatbot son asistentes virtuales a través de los cuales se responden las consultas de los usuarios mediante mensajes escritos. Es un software diseñado para integrarse en sistemas de mensajería de sitios webs y aplicaciones, para ofrecer información, o bien, llevando a cabo acciones concretas.

Llamado a licitación

En la mañana de este miércoles, se realizó el acto de apertura de las ofertas de la licitación para contratar el servicio de desarrollo, análisis, diseño e implementación de un sistema de software de agente cognitivo (chatbot), y el mantenimiento de todos los programas que lo componen.

Por subparte, la secretaria de Auditoría, Evaluación y Transparencia explicó: “Esto es una herramienta que nos va a permitir mejorar la comunicación con los vecinos y vecinas, tener un diálogo más fluido y estar más cerca de la ciudadanía, las 24 horas del día. El agente cognitivo se va a implementar a través del Whatsapp o Telegram, que son las aplicaciones de mensajería más utilizadas en nuestro país”.

Potenciar los canales de diálogo

“Esta herramienta busca potenciar los canales de diálogo con todos los vecinos y vecinas de nuestra ciudad, y la eficiencia en la realización de trámites, disminuyendo los tiempos operativos y facilitando la información a la ciudadanía”, amplió la funcionaria.

“El objetivo es crear un canal oficial que, mediante el diálogo, te va a brindar una experiencia simple, única y personalizada. La respuesta va a ser inmediata, con un mensaje de ida y vuelta en tiempo real. Podrá ser utilizado para hablar, informar, responder inquietudes, solicitudes, consultas"; explicó Cecilia Gallardo.

Finalmente destacó que "para la gestión del intendente Luis Castellano, la atención a los vecinos y vecinas a través de diferentes medios y canales de comunicación, es fundamental. Por eso, queremos simplificar los trámites haciendo un Estado más innovador y moderno”.

LEE: Este viernes llega “La noche de Comercial Oeste”

Las empresas que se presentaron

El presupuesto oficial ascendió a los 9.522.211 de pesos.

En la ocasión, se presentaron dos oferentes: la firma Claudio Tapia y la empresa BótGenes.