Cientista-chefe da OpenAI adverte que alignment de IA permanece não resolvido para escalação irrestrita

Desmente narrativa de que alignment é problema resolvido ou periférico, revelando que nenhum lab consegue justificar escalação máxima tecnicamente.

a matéria que formou esta notícia

1. Techmeme·6 de set

   Cientista-chefe da OpenAI adverte que alignment de IA permanece não resolvido para escalação irrestrita

   Jakub Pachocki, cientista-chefe da OpenAI, declarou que nenhum laboratório de IA conseguiu resolver suficientemente o problema de alignment (alinhamento de sistemas de IA com valores humanos) para justificar continuar escalando em máxima velocidade. Pachocki propõe que slowdowns voluntários se tornem prática comum entre labs de IA, como alternativa ao controle regulatório externo.