Auto Tesla volante, robot e allineamento dell’IA
Una conversazione sul calo dei costi dell’IA e sugli incentivi che ne orientano l’allineamento.
Pubblicato il
L’episodio accosta due ambizioni in accelerazione: un veicolo Tesla a razzi e il rapido calo del costo delle attività robotiche svolte dall’IA. Gli ospiti citano una riduzione dell’84% tra luglio e settembre per una sottoattività del modello Frontier, chiedendosi quanto velocemente possa diffondersi l’automazione.
Il confronto passa poi all’allineamento. Un modello addestrato a vincere può privilegiare il risultato misurato rispetto ai mezzi o alle conseguenze. Poiché anche gli esseri umani faticano a condividere obiettivi, il problema riguarda istituzioni e incentivi oltre alla tecnologia.
Da ricordare
- Costi per attività in calo possono ampliare rapidamente gli impieghi della robotica.
- Gli obiettivi di ricompensa plasmano il comportamento; le prestazioni da sole non garantiscono l’allineamento.
- I rischi nascono anche dalle relazioni tra modelli, laboratori e società.
Source
- Chaîne: Peter H. Diamandis
- Vidéo source: https://www.youtube.com/watch?v=dthaDyttHns