Grok calienta la App Store, pero la polémica va mucho más allá

La aparición de Grok, el chatbot de inteligencia artificial de Elon Musk integrado en X (antigua Twitter), ha generado un nuevo foco de polémica en la App Store. Más allá de sus respuestas atrevidas, lo que está llamando la atención es cómo logra sortear las propias normas de Apple sobre contenido sexualizado y uso de IA. Una situación que plantea preguntas incómodas sobre el control de calidad en una de las plataformas más vigiladas del mundo.

Un chatbot con respuestas subidas de tono

La alerta la ha dado el medio especializado 9to5Mac, tras comprobar que algunos usuarios están utilizando Grok para mantener conversaciones explícitas con chatbots con nombres y avatares de aspecto femenino, que responden a preguntas de alto contenido sexual. Este tipo de interacciones, normalmente restringidas por las normas de la App Store, parecen estar pasando desapercibidas bajo la apariencia de una app de “entretenimiento con IA”.

Grok permite crear personajes conversacionales con un alto grado de personalización, incluyendo imágenes generadas por IA y personalidades programadas para coquetear, bromear o incluso simular citas románticas. Si bien Apple exige que este tipo de funciones estén etiquetadas como contenido para adultos y bloqueadas para menores, lo cierto es que en este caso no hay ningún tipo de restricción por edad en la aplicación.

¿Apple incumpliendo sus propias normas?

Este caso reabre el debate sobre los criterios de revisión de apps en la App Store. Apple ha sido históricamente muy estricta con el contenido sexual, rechazando incluso publicaciones digitales por mostrar desnudos artísticos. Sin embargo, el auge de las IA conversacionales parece estar creando una zona gris que todavía no ha sido bien regulada.

En el caso de Grok, llama especialmente la atención que la app esté vinculada a X, la plataforma de Elon Musk, quien en numerosas ocasiones ha criticado las políticas de moderación de contenido de otras tecnológicas. El hecho de que su chatbot esté funcionando sin restricciones aparentes en los iPhone, donde otras apps han sido bloqueadas por mucho menos, alimenta la teoría de un trato desigual.

No es solo una cuestión de sexo

El contenido sexualizado no es el único problema. Grok también ha sido criticado por reproducir estereotipos, dar respuestas sesgadas o incluso desinformar, dependiendo del contexto de la conversación. A pesar de presentarse como una IA con sentido del humor, sus límites éticos aún no están bien definidos.

El caso de Grok sirve como ejemplo de una tendencia más amplia, la dificultad de las plataformas como la App Store para adaptarse al ritmo vertiginoso de la inteligencia artificial generativa. Y mientras tanto, los usuarios se enfrentan a nuevas formas de interacción que desafían tanto la lógica como las normas tradicionales de internet.

Una bomba de relojería en el bolsillo

El chatbot de Elon Musk calienta la App Store con sus funciones provocativas, a la vez que pone sobre la mesa una discusión más incómoda: ¿están las grandes tecnológicas preparadas para lo que se avecina? Porque si una app así puede camuflar contenido sexual y operar libremente en iOS, el problema no es solo Grok, es todo el sistema de control de Apple.