alt=AlphaGo, sistema de DeepMind sovint citat en discussions d'acceleracions locals d'IA.|miniatura|AlphaGo, sistema de DeepMind sovint citat en discussions d'acceleracions locals d'IA. alt=Nick Bostrom, filòsof i autor de Superintelligence.|miniatura|Nick Bostrom, filòsof i autor de Superintelligence. alt=Stuart Russell, informàtic i autor de Human Compatible.|miniatura|Stuart Russell, informàtic i autor de Human Compatible. Explosió d'intel·ligència és una hipòtesi segons la qual una intel·ligència artificial podria iniciar un procés d'auto-millora capaç d'incrementar les seves capacitats de manera accelerada i sostinguda. El terme s'ha consolidat en l'àmbit dels estudis de futur i la seguretat de la IA per descriure escenaris de creixement sobtat de la intel·ligència artificial més enllà del nivell humà. L'origen de la idea es remunta a I. J. Good, que ja el 1965 va assenyalar que una «màquina ultraintel·ligent» podria dissenyar màquines més avançades i desencadenar un procés d'expansió ràpida de capacitat cognitiva. En la recerca actual aquest fenomen s'associa amb la «millora recursiva», és a dir, la possibilitat que un sistema optimitzi els seus propis mecanismes de millora. En textos divulgatius s'utilitza de vegades la metàfora de la «velocitat d'escapament de la intel·ligència» per indicar el punt a partir del qual l'evolució d'una IA podria escapar al control humà, tot i que aquesta expressió no forma part del vocabulari acadèmic establert.
Un aspecte clau és la velocitat de transició. Es parla de «takeoff ràpid» quan el salt cap a la superintel·ligència es produiria en poc temps, i de «takeoff lent» quan el procés seria més gradual i permetria intervencions humanes. L'anàlisi econòmica d'aquest escenari examina si els guanys obtinguts podrien reinvertir-se per mantenir el cicle d'expansió, així com les condicions materials necessàries per sostenir-lo. Els defensors de l'explosió ràpida argumenten que els retorns de cada iteració podrien multiplicar-se i superar les limitacions inicials de recursos computacionals i dades. Altres especialistes remarquen que factors com la disponibilitat de maquinari, la dificultat dels descobriments científics i la necessitat de coordinació social poden frenar el procés i fer-lo més progressiu.
Com a referències empíriques sovint es citen avenços puntuals en camps restringits. El cas d'AlphaGo mostra una millora ràpida en un joc complex mitjançant xarxes neuronals i autoaprenentatge, però no implica una explosió general de capacitat. Investigacions en AutoML, com «AutoML-Zero», exploren la generació automàtica d'algoritmes d'aprenentatge i són considerades indicis de possibles mecanismes d'auto-millora.
Les implicacions d'una explosió d'intel·ligència han estat objecte de debat en filosofia, ètica i polítiques públiques. Nick Bostrom ha sostingut que una màquina superintel·ligent podria representar la «darrera invenció» de la humanitat si no es garanteix la seva docilitat. Stuart Russell ha defensat que el problema essencial és dissenyar sistemes amb objectius alineats amb els valors humans abans que superin les nostres capacitats de decisió. La comunitat d'alineament de la IA debat sobre la urgència de prioritzar la recerca de seguretat i la cooperació internacional per prevenir riscos sistèmics associats a escenaris d'auto-millora accelerada. Alguns crítics consideren que les prediccions d'explosions ràpides són especulatives i demanen evidència empírica més sòlida.
Referències
Categoria:Intel·ligència artificial