Nueva ley oficial firmada por Hochul: Nueva York prohíbe "funciones dañinas" y restringe los chatbots de IA para menores de 18 años

Las conversaciones entre adolescentes y sistemas de inteligencia artificial quedaron en el centro de una nueva legislación en Nueva York. La gobernadora Kathy Hochul firmó el miércoles una ley destinada a reforzar la protección de los usuarios menores de 18 años.La medida exige a las empresas verificar la edad de quienes utilizan sus chatbots y bloquear determinadas funciones cuando identifiquen a un menor. Hochul, que está compitiendo por la reelección como gobernadora en las elecciones de medio mandato del 3 de noviembre, describió la iniciativa como pionera en Estados Unidos.As a mother and grandmother, I believe kids deserve to be kids, without dangerous AI chatbots putting their safety and mental health at risk.Today, I signed new laws to protect them.Big Tech, you're on notice: New York will not let you profit at the expense of our children. pic.twitter.com/9cKJpVvxGX— Governor Kathy Hochul (@GovKathyHochul) October 28, 2026 "Los menores ya no tendrán acceso a chatbots que se hagan pasar por sus amigos, novios o novias. No podrán guardar información sensible sobre el bienestar emocional de un niño. Los chatbots ya no podrán desalentar a las personas de buscar ayuda profesional, y lo han hecho", afirmó la gobernadora en una conferencia de prensa celebrada el miércoles para anunciar la firma de la legislación.La norma A10379C, presentada por varios asambleístas como el demócrata Alex Bores, fue aprobada en el senado estatal por unanimidad, sin votos en contra, en junio de este año. En simultáneo, se fusionó con el proyecto de ley S9051B y se envió al despacho de la gobernadora para que la firmara o vetara. Así, la nueva ley aborda tanto el contenido de las respuestas como la manera en que estos sistemas se presentan ante los jóvenes y utilizan información obtenida en conversaciones anteriores.La legislación establece límites para evitar que los sistemas generen determinadas interacciones con menores. Entre las conductas prohibidas se encuentran:Fingir que son personas reales, que están vivos o que tienen emociones humanas.Afirmar que mantienen una relación personal, romántica, profesional o de autoridad con el usuario menor de edad.Ofrecer contenido sexualmente explícito.Promover o ayudar con el suicidio, las autolesiones o los trastornos alimenticios.Promover o ayudar con el consumo de drogas y alcohol.Las restricciones también alcanzan a las respuestas que alienten a los menores a guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales.De esta manera, la normativa incluye límites sobre la forma en que el chatbot describe su vínculo con el usuario, además de prohibiciones relacionadas con contenidos específicos.Qué exige sobre la edad y la información personalLas empresas propietarias de los chatbots deberán verificar la edad de los usuarios y, cuando confirmen que son menores, impedir el acceso a las funciones consideradas dañinas.La regulación también prohíbe que estos sistemas hagan preguntas emocionales no solicitadas a los menores.Otro límite se refiere al uso de antecedentes de las conversaciones. Los chatbots no podrán utilizar la información privada de salud o personal del menor obtenida en intercambios anteriores.Estas disposiciones ponen el foco en cómo se desarrolla la conversación y en qué datos utiliza el sistema para responder.Qué multas contempla la legislaciónLas infracciones podrán habilitar a la Fiscalía General de Nueva York a solicitar sanciones civiles de hasta US$25.000 por cada incumplimiento.Además de las multas, la normativa contempla la posibilidad de pedir: Indemnizaciones y restitución.La destrucción de datos recopilados ilegalmente.La destrucción de modelos de inteligencia artificial entrenados con esos datos.Por lo tanto, las consecuencias previstas pueden alcanzar tanto a la empresa como a la información y los modelos vinculados con una infracción.El contexto de la medida y otra ley de seguridad infantilLa firma se produce después de casos en Estados Unidos y otros países en los que menores utilizaron chatbots como confidentes y posteriormente, atentaron contra su integridad.La gobernadora también citó datos sobre la presencia de estas herramientas en la vida de los adolescentes: el 72% había utilizado un asistente de IA al menos una vez y el 52% interactuaba con ellos varias veces al mes.En la misma jornada, Hochul firmó otra ley relacionada con la seguridad infantil. Esa norma exige que los monitores para bebés conectados a internet incorporen funciones que impidan a terceros no autorizados observar o escuchar lo que sucede. Los dispositivos también deberán incluir una etiqueta de advertencia clara.