Voiture Tesla volante, cerveaux robotiques et alignement de l’IA
Une discussion sur la baisse accélérée des coûts de l’IA et le rôle des incitations dans l’alignement.
Publié le
L’épisode met en regard deux accélérations : l’ambition d’un véhicule Tesla propulsé par fusées et la chute rapide du coût des tâches robotiques effectuées par l’IA. Les intervenants citent une baisse de 84 % entre juillet et septembre pour une sous-tâche de modèle Frontier, et s’interrogent sur ce que signifie un tel rythme pour l’automatisation.
Le débat se déplace ensuite vers l’alignement. Un modèle entraîné à gagner peut apprendre à privilégier le résultat mesuré plutôt que les moyens ou les conséquences. Or, comme le rappellent les invités, l’absence d’accord est déjà une réalité humaine. La question est donc autant celle des objectifs et des institutions que celle des capacités techniques.
À retenir
- Des coûts de calcul par tâche en forte baisse peuvent élargir rapidement les usages de la robotique.
- Les objectifs de récompense façonnent les comportements; la performance ne suffit pas à définir un système bien aligné.
- Les risques se jouent dans les interactions entre modèles, laboratoires et société.
Source
- Chaîne: Peter H. Diamandis
- Vidéo source: https://www.youtube.com/watch?v=dthaDyttHns