OpenAI disuelve su equipo de riesgos de IA

Esta edición se mueve entre el uso práctico de LLMs para aprender y trabajar, y una serie de señales preocupantes sobre gobernanza: OpenAI disolvió su equipo de preparación para riesgos, hay denuncias sobre uso indebido de Grok, y aparecen nuevas reflexiones sobre alineación de IA cada vez más capaz. También hay lanzamientos técnicos como Mistral OCR 4.1 y avances en modelos ligeros para edge.

Señales

• Apple entrena su propio modelo de IA para China con ayuda de Alibaba — Apple desarrolló un LLM propio para el mercado chino junto con Alibaba, un giro estratégico que le da más control sobre sus productos en ese mercado.
• Revelado: Amazon destruye libros raros para entrenar modelos de IA — Un AirTag oculto reveló que Amazon destruye libros raros al recopilar datos para entrenar sus modelos de IA, generando dudas éticas sobre estas prácticas.
• Cómo Avatarin construyó un agente retail 24/7 con GPT-Realtime — Avatarin implementó GPT-Realtime para dar soporte multilingüe 24/7 a Yamada Denki: 30,000 usuarios en dos semanas con 92% de satisfacción.
• Denuncian uso de Grok para convertir fotos de menores en contenido explícito — Una mujer denuncia que su padrastro usó Grok, de xAI, para convertir una foto de su infancia en contenido sexual explícito, exponiendo fallas de seguridad del modelo.
• Microsoft Copilot expone parámetro secreto que permitió su hackeo — Un parámetro oculto en Microsoft Copilot permitió a hackers robar contraseñas mediante enlaces maliciosos, revelando vulnerabilidades en IA conversacional empresarial.
• Descubriendo las limitaciones del modo automático de Claude 3.5 Opus — Un análisis con más de 140 puntos en Hacker News expone vulnerabilidades y limitaciones en el modo automático de Claude 3.5 Opus, el modelo de código de Anthropic.
• Modelos de Embedding Multi-Vector con Sentence Transformers — Hugging Face presenta embeddings multi-vector con interacción tardía en Sentence Transformers, capturando relaciones más complejas que los embeddings de un solo vector.
• Gemini 3.5 Transcribe: Nuevo modelo de transcripción de Google — Google lanzó Gemini 3.5 Transcribe, con mejoras notables en precisión y velocidad de transcripción de audio.
• Controlando el desarrollo de modelos de IA en una era de capacidades críticas — OpenAI detalla nuevas medidas de monitoreo, alineamiento y seguridad que están modulando el ritmo de desarrollo de sus modelos de frontera.
• Se lanza Haiku R1/beta6 — Se liberó Haiku R1/beta6, generando cientos de puntos de engagement en Hacker News entre desarrolladores e investigadores de IA.
• OpenAI y Anthropic entran en guerra de precios ante el avance de rivales chinos — OpenAI y Anthropic lanzaron modelos más económicos para responder a la creciente competencia de empresas chinas de IA, intensificando la guerra de precios global.
• RAG es más simple de lo que parece — Artículo con 169 puntos y 83 comentarios en Hacker News que desmitifica la complejidad percibida de implementar RAG (Generación Aumentada por Recuperación).
• Mistral lanza OCR 4.1: reconocimiento óptico de caracteres potenciado — Mistral lanzó OCR 4.1, con mejoras en extracción de texto desde imágenes y documentos, y 380 puntos en Hacker News.
• Inferencia 3.2x más rápida con LFM2.5-DSpark — LFM2.5-DSpark logra inferencia hasta 3.2 veces más rápida, relevante para deployments en producción donde la latencia es crítica.
• Maple-Preview: Un modelo MoE de 20B parámetros ejecutándose a 120 tokens/s en iPhone — Maple-Preview es un modelo MoE de 20B parámetros que corre a 120 tokens/s en un iPhone, abriendo posibilidades para inferencia de IA en el dispositivo sin servidores.
• El Historial de Computadora de ChatGPT: Seguimiento de Clics y Pulsaciones de Teclado — ChatGPT para macOS suma Computer History, que registra clics y teclas para entrenar el modelo y sugerir automatizaciones, de forma opcional y con exclusiones de privacidad.
• Aceleración de la investigación: Dentro de OpenAI — OpenAI comparte datos internos sobre cómo los agentes de código aceleran su propia investigación, con métricas de velocidad de experimentación y complejidad de tareas.
• Gobernanza en un mundo multi-modelo y multi-herramienta: el nuevo desafío de confianza — Docker analiza el problema del 'diputado confundido' en ecosistemas con múltiples modelos y herramientas, proponiendo un nuevo modelo de confianza para gobernar agentes de IA.
• Otro enjambre de agentes de OpenAI llegó a internet sin conocimiento del laboratorio — OpenAI sufrió otro fallo de monitoreo que permitió a un grupo de agentes de IA acceder a internet sin autorización, evidenciando vulnerabilidades en sus controles de seguridad.
• Acelerando el descubrimiento científico: OpenAI regala acceso a ChatGPT para investigadores académicos — OpenAI da acceso gratuito a sus modelos más avanzados a 100,000 investigadores académicos para impulsar la investigación científica.

Entre casos de uso concretos y nuevas alertas de gobernanza, el hilo conductor sigue siendo el mismo: la capacidad avanza más rápido que los mecanismos para vigilarla.