Durante años, la tecnología de hash ha permitido a las plataformas detectar automáticamente materiales conocidos de abuso sexual infantil (CSAM, por sus siglas en inglés) para evitar que los niños sufran nuevos traumas en línea. Sin embargo, la detección rápida de CSAM nuevos o desconocidos ha sido un desafío mayor para las plataformas, ya que nuevas víctimas continúan siendo vulneradas. Ahora, la inteligencia artificial puede estar lista para cambiar eso.

Hoy, una destacada organización de seguridad infantil, Thorn, en asociación con un proveedor líder de soluciones de inteligencia artificial en la nube, Hive, anunció el lanzamiento de una API que amplía el acceso a un modelo de IA diseñado para detectar CSAM desconocido. Es el uso más temprano de tecnología de IA que intenta exponer CSAM no reportado a gran escala.

Como una expansión de la herramienta de detección de CSAM de Thorn, Safer, la característica de IA utiliza «modelos de clasificación de aprendizaje automático avanzados» para «detectar nuevos CSAM o no reportados previamente», generando una «puntuación de riesgo para facilitar y acelerar las decisiones humanas».

El modelo fue entrenado en parte utilizando datos de la línea de informes cibernéticos del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), basándose en datos reales de CSAM para detectar patrones en imágenes y videos dañinos. Una vez que se detecta un posible CSAM, un revisor humano permanece en el proceso para garantizar supervisión. Potencialmente, podría usarse para investigar redes sospechosas de CSAM que se propagan en línea.

Por supuesto, también podría cometer errores, pero Kevin Guo, CEO de Hive, dijo a Ars que se realizaron pruebas exhaustivas para reducir sustancialmente los falsos positivos o negativos. Aunque no compartió estadísticas, afirmó que las plataformas no estarían interesadas en una herramienta donde «99 de cada cien cosas que la herramienta señala no son correctas».

Rebecca Portnoff, vicepresidenta de ciencia de datos de Thorn, dijo a Ars que era una «decisión obvia» asociarse con Hive en Safer. Hive proporciona modelos de moderación de contenido utilizados por cientos de comunidades en línea populares, y Guo dijo a Ars que las plataformas han pedido consistentemente herramientas para detectar CSAM desconocido, gran parte del cual actualmente prospera en puntos ciegos en línea porque la base de datos de hash nunca lo expondrá.

Un tribunal federal dictaminó ayer en contra de los padres que demandaron a un distrito escolar de Massachusetts por castigar a su hijo, quien utilizó una herramienta de inteligencia artificial para completar una tarea. Dale y Jennifer Harris demandaron a los funcionarios de Hingham High School y al Comité Escolar, buscando una orden judicial preliminar que exigiera a la escuela cambiar la calificación de su hijo y eliminar el incidente de su expediente disciplinario antes de que necesitara presentar solicitudes a universidades. Los padres argumentaron que no había una regla en contra del uso de IA en el manual del estudiante, pero los funcionarios escolares afirmaron que el estudiante violó múltiples políticas. La moción de los Harris para una orden judicial fue rechazada en una orden emitida ayer por el Tribunal de Distrito de EE. UU. para el Distrito de Massachusetts. El juez magistrado estadounidense Paul Levenson encontró que los funcionarios escolares ‘tienen la razón en cuanto a los hechos y la ley’. ‘En cuanto a los hechos, no hay nada en el registro fáctico preliminar que sugiera que los funcionarios de HHS se apresuraron a concluir que RNH [el hijo de los Harris, referido por sus iniciales] había hecho trampa’, escribió Levenson. ‘Tampoco fueron las consecuencias impuestas por los demandados tan severas como para exceder la considerable discreción de los demandados en tales asuntos’. ‘Con la evidencia actualmente ante la Corte, no detecto ninguna irregularidad por parte de los demandados’, también escribió Levenson. El incidente ocurrió en diciembre de 2023 cuando RNH era un estudiante de penúltimo año. La escuela determinó que RNH y otro estudiante ‘habían hecho trampa en un proyecto de Historia de EE. UU. AP al intentar hacer pasar como propio material que habían tomado de una aplicación de inteligencia artificial generativa’, escribió Levenson. ‘Aunque se permitía a los estudiantes usar IA para generar ideas y identificar fuentes, en este caso los estudiantes habían copiado y pegado indiscriminadamente texto de la aplicación de IA, incluidas citas a libros inexistentes (es decir, alucinaciones de IA)’.

El viernes, Anthropic anunció que Amazon ha aumentado su inversión en la startup de inteligencia artificial con $4 mil millones adicionales, elevando su participación total a $8 mil millones, manteniéndose aún como inversor minoritario. Anthropic desarrolla ‘Claude’, un asistente de IA que compite con ‘ChatGPT’ de OpenAI.

Una de las razones detrás de este acuerdo involucra los chips. Las exigencias computacionales para entrenar grandes modelos de IA han hecho que el acceso a procesadores especializados sea un requisito para las empresas de IA. Mientras que Nvidia actualmente domina el mercado de chips de IA, con clientes que incluyen la mayoría de las grandes compañías tecnológicas, algunos proveedores de nube como Amazon han comenzado a desarrollar sus propios procesadores específicos para IA.

Según el acuerdo, Anthropic entrenará y desplegará sus modelos fundamentales utilizando los chips desarrollados por Amazon, ‘Trainium’ (para entrenar modelos de IA) y ‘Inferentia’ (para inferencia de IA, término que se refiere a la ejecución de modelos entrenados). Además, la compañía colaborará con la división Annapurna Labs de Amazon para avanzar en el desarrollo de procesadores para aplicaciones de IA.

Se informa que Anthropic también ha estado ayudando a Amazon a desarrollar una nueva versión de su asistente de IA Alexa desde agosto, basada en el modelo de lenguaje de IA Claude de Anthropic. Sin embargo, problemas relacionados con la seguridad y la latencia han retrasado su lanzamiento.

Para más detalles, puedes consultar la fuente original en: [Ars Technica](https://arstechnica.com/ai/2024/11/amazon-pours-another-4b-into-anthropic-openais-biggest-rival/).

En el ámbito de la investigación en inteligencia artificial, ya es conocido que los modelos generativos son capaces de sintetizar discurso o música melódica a partir de simples instrucciones textuales. Sin embargo, el modelo recientemente revelado por Nvidia, denominado ‘Fugatto’, promete ir más allá al utilizar nuevos métodos de entrenamiento sintético y técnicas de combinación a nivel de inferencia para ‘transformar cualquier mezcla de música, voces y sonidos’, incluyendo la síntesis de sonidos que nunca han existido.

Aunque Fugatto aún no está disponible para pruebas públicas, un sitio web lleno de ejemplos demuestra cómo puede ajustarse para modificar una serie de características y descripciones de audio, resultando en sonidos que van desde saxofones ladrando hasta personas hablando bajo el agua, o sirenas de ambulancia cantando en una especie de coro. Aunque los resultados pueden ser dispares, la gran variedad de capacidades exhibidas apoya la descripción de Nvidia sobre Fugatto como ‘una navaja suiza para el sonido’.

En un documento de investigación explicativo, más de una docena de investigadores de Nvidia detallan la dificultad de crear un conjunto de datos de entrenamiento que pueda ‘revelar relaciones significativas entre audio y lenguaje’. Mientras que los modelos de lenguaje estándar a menudo pueden manejar diversas instrucciones a partir de datos textuales, es complicado generalizar descripciones y características del audio sin una guía más explícita.

Para abordar este reto, los investigadores utilizan un modelo de lenguaje grande (LLM) para generar un script en Python que pueda crear una gran cantidad de instrucciones basadas en plantillas y de forma libre, describiendo diferentes ‘personalidades’ de audio (por ejemplo, ‘estándar, jóvenes, profesionales de treinta y tantos’). Posteriormente, generan un conjunto de instrucciones tanto absolutas (por ejemplo, ‘sintetizar una voz feliz’) como relativas (por ejemplo, ‘aumentar la felicidad de esta voz’) que pueden aplicarse a esas personalidades.

Los diversos conjuntos de datos de audio de código abierto utilizados como base para Fugatto generalmente no tienen este tipo de mediciones de características integradas por defecto. Pero los investigadores aprovechan los modelos de entendimiento de audio existentes para crear ‘leyendas sintéticas’ para sus clips de entrenamiento basados en sus indicaciones, generando descripciones en lenguaje natural que pueden cuantificar automáticamente características como género, emoción y calidad del discurso. También se utilizan herramientas de procesamiento de audio para describir y cuantificar clips de entrenamiento a un nivel más acústico (por ejemplo, ‘varianza de frecuencia fundamental’ o ‘reverberación’).

Fuente: [Ars Technica](https://arstechnica.com/ai/2024/11/nvidias-new-ai-audio-model-can-synthesize-sounds-that-have-never-existed/)

OpenAI ha suspendido el acceso de prueba a su plataforma de generación de video Sora después de que un grupo de artistas, conocido como PR Puppets, compartiera brevemente su acceso temprano en una página web de uso público. Este acto fue un intento de protesta contra lo que perciben como trabajo no remunerado en investigación y desarrollo, así como pruebas de errores, mientras participan en el ‘lavado de arte’ de herramientas de inteligencia artificial. OpenAI, por su parte, ha declarado que la participación en la prueba alfa es voluntaria y no exige que los evaluadores proporcionen retroalimentación.

El grupo PR Puppets publicó su punto de acceso a ‘Generar con Sora’ en Hugging Face, lo cual fue rápidamente detectado por expertos en inteligencia artificial en las redes sociales. La página se conectaba a los puntos finales de la API de Sora de OpenAI y al dominio videos.openai.com, utilizando presuntamente tokens de autenticación proporcionados por OpenAI a los evaluadores.

El acceso fue revocado en cuestión de horas, aunque no antes de que numerosos seguidores generaran sus propios videos y los compartieran en redes sociales. Un portavoz de OpenAI informó a The Washington Post que la compañía está pausando temporalmente todo el acceso de prueba a Sora para evaluar la situación. Algunos usuarios también exploraron el código para descubrir pistas sobre diferentes modos y ‘estilos’ en desarrollo para Sora.

En una carta abierta dirigida a sus ‘Amo del Universo Corporativo de IA’, el grupo PR Puppets afirmó que protestaba en nombre de aproximadamente 300 artistas que habían recibido acceso temprano a Sora solo para ‘proveer trabajo no remunerado a través de pruebas de errores, retroalimentación y trabajo experimental para una compañía valorada en 150 mil millones de dólares [OpenAI]’. El grupo señaló que solo unos pocos de esos artistas verán su trabajo recompensado en forma de proyecciones más amplias para sus películas creadas con Sora y se quejaron de que OpenAI requiere aprobación antes de que cualquier producción de la alfa de Sora pueda compartirse públicamente.