Trillium Labs quiere investigar los riesgos más peligrosos de la IA a cielo abierto

Nathan Lambert y Tom Zick se conocieron como estudiantes de posgrado en Berkeley, en plena pandemia. Años después, los dos coinciden en el mismo diagnóstico: "La trayectoria cerrada actual del desarrollo de IA de punta nos está llevando un paso atrás", dice Lambert. La respuesta que armaron se llama Trillium Labs, un laboratorio sin fines de lucro que quiere estudiar justo lo que OpenAI y Anthropic prefieren mantener bajo llave.

Lo que nadie publica

Trillium se mete con temas que los laboratorios grandes tocan puertas adentro: la auto-mejora recursiva —que un modelo participe en mejorar la próxima versión de sí mismo—, el comportamiento de los agentes de IA, las técnicas de post-entrenamiento y cómo el aprendizaje por refuerzo termina moldeando no solo las capacidades sino el carácter de un modelo. Son, literalmente, las preguntas que más preocupan a quienes piensan en seguridad de IA a largo plazo.

Plata y la apuesta de publicar todo

El laboratorio arrancó con fondos de Schmidt Sciences y Halcyon Futures, sin montos confirmados, pero la meta es juntar entre 40 y 100 millones de dólares, con unos 30 millones pensados solo para entrenamiento durante los próximos 18 meses. La diferencia con OpenAI o Anthropic no es el tema de estudio: es la publicación. Donde los gigantes restringen el acceso vía API y guardan buena parte de la investigación interna, Trillium planea publicar los experimentos en detalle para que otros científicos puedan replicarlos.

El problema que Lambert y Zick vivieron en carne propia

Lambert pasó por Ai2 y Hugging Face; Zick, por Harvard y Charles Schwab. Los dos vieron de cerca algo que se volvió estructural en el campo: la academia ya no tiene los recursos para replicar la investigación de IA que hacen las empresas, así que buena parte del conocimiento de punta queda atrapado en un puñado de compañías con los chips y la plata para entrenar a esa escala.

Esto suena a debate de laboratorio lejano, pero no lo es tanto: cuanta más investigación de seguridad de IA circule en abierto —en vez de quedar encerrada en media docena de empresas— más herramientas, papers y modelos chicos van a terminar filtrando hacia los que construyen soluciones para pymes. La concentración del conocimiento en pocas manos no solo es un riesgo de seguridad: también es una traba para que la innovación llegue más barata y más rápido al resto.