El filtro de contenido para adultos del iPhone está recibiendo críticas y escrutinio después de los informes de independiente Y el Gizmodo El filtro prohíbe el término «asiático» independientemente del contexto y no amplía el mismo estilo general a otros términos. No hay problema con el filtro con términos como «negro», «blanco», «colegiala», «japonés», «coreano» y «adolescente» y ya entiendes la idea. El problema fue detectado por primera vez por el desarrollador de iOS Stephen Chen, quien informó el problema con Apple en diciembre de 2019.

El filtro «Adult Web Locator» de Apple, que forma parte del menú de configuración de Screen Time para iOS, tiene como objetivo evitar que los usuarios más jóvenes de iPhone accedan a material para adultos en línea, ya sea de forma intencionada o no. Esto no significa acabar con todo un continente y sus innumerables subculturas.

Malo, no importa quién tenga la culpa. La orientación específica del término «asiático» es problemática, ya sea intencional o accidental, y se debe a un error de aprendizaje automático o humano. Después de todo, «asiático» se puede aplicar aquí para buscar entradas sobre comida asiática, literatura asiática, deportes asiáticos, filosofía asiática, restaurantes asiáticos o cualquier otro contenido completamente útil. Cuando un usuario prueba estas entradas, recibe un mensaje de error que dice: «No puede navegar por esta página en» google.com «porque está restringida» o «La URL ha sido bloqueada por el filtro de contenido».

Esto es lo que podría pasar Una teoría es que el sistema de filtrado de Apple está impulsado por inteligencia artificial, como aprendimos en los casos de Reconocimiento facial a mi Solicitudes de empleoLa IA está lejos de ser perfecta y propensa a correcciones excesivas. Por lo tanto, esto podría ser un error al cancelar montones de resultados de búsqueda que incluían la palabra «asiático» en algún lugar. Si es así, todavía hay un problema y debe identificarse, marcarse y corregirse.

Pero, si esta aplicación de filtro es una decisión humana, es aún peor. Cualquiera sea la razón, Apple necesita analizar seriamente los métodos de filtrado de contenido.