Just a minute. IA generativa y protección de menores.

El 28 de octubre, la gobernadora de Nueva York promulgó una ley que restringe la posibilidad de que los chatbots de IA entablen relaciones “de tipo humano” con menores de 18 años. Agrega un nuevo Artículo 48 a la Ley General de Comercio del Estado, titulado “Prohibición de funciones inseguras de compañía de IA para menores”. Tiene un antecedente: una ley vigente desde noviembre de 2025, que ya obligaba a estos sistemas a aclarar que no son humanos y a derivar a líneas de ayuda a quienes expresen ideas suicidas. El contexto son casos judiciales que conmovieron a la opinión pública, como la demanda de una madre de Florida contra Character.AI por el suicidio de su hijo de 14 años, o la de los padres de Adam Raine, de 16, contra OpenAI.

La nueva ley regirá desde el 1 de enero de 2027. Prohíbe a los chatbots, cuando conversan con menores, fingir que son personas, que están vivos o que tienen emociones. Tampoco pueden presentarse como amigos, novios o figuras de autoridad, adularlos o darles siempre la razón, ni presentar sus respuestas como opiniones propias. Las empresas deben verificar la edad del usuario y, si no pueden confirmar que es adulto, desactivar esas funciones. La ley no alcanza solo a las apps de “compañía”: su definición abarca también a asistentes generales como ChatGPT, Gemini o Claude. La aplica el fiscal general del Estado, con multas de hasta US$ 25.000 por cada infracción.

A nivel federal, el proyecto bipartidista GUARD Act, aprobado por unanimidad en la Comisión de Justicia del Senado, va más allá: prohibiría directamente los chatbots de compañía para menores y crearía delitos para las empresas que, a sabiendas, pongan a su alcance chatbots que soliciten o produzcan contenido sexual. Del derecho administrativo, al penal.

En Europa no hay todavía una norma específica equivalente, aunque el Reglamento de IA ya prohíbe los sistemas que explotan la vulnerabilidad de las personas por su edad. Lo más cercano a la ley neoyorquina es la propuesta de EU KIDS Act (“Keeping Internet Digital Spaces Accountable and Trustworthy”), que la Comisión Europea presentó en septiembre. Es un reglamento que armoniza la seguridad infantil en línea en todo el bloque e incluye expresamente a los chatbots. Prevé que los menores de 13 años solo accedan a ellos bajo control parental, prohíbe los diseños que generen dependencia emocional y considera insuficiente que el usuario simplemente declare su edad. Aún debe pasar por el Parlamento y el Consejo.

El mundo empieza a regular la IA para proteger a los más vulnerables. Y está muy bien. La máquina no es persona, claro, y por tanto no puede delinquir. Pero sí quien la diseñó.


Comentarios

Entradas más populares de este blog

Just a minute. El (difícil) arte de escribir corto.

Just a minute. ¿Violación sin contacto?

Just a minute. ¿Jueces algorítmicos?