Geoffrey Hinton

Da Wikipedia, l'enciclopedia libera.
Vai alla navigazione Vai alla ricerca
Geoffrey Hinton nel 2016

Geoffrey Everest Hinton (Wimbledon (Londra), 6 dicembre 1947) è un informatico britannico naturalizzato canadese. Noto per i suoi contributi allo sviluppo dell'apprendimento automatico, è considerato uno tra i ricercatori più influenti nello sviluppo dell'apprendimento profondo.[1][2][3][4][5] Professore all'Università di Toronto e ricercatore presso Google Brain, nel 2017 fondò il Vector Institute for Artificial Intelligence a Toronto, di cui è consulente scientifico principale.[6][7]

Nel 1986 ha pubblicato con David Rumelhart e Ronald J. Williams un articolo di particolare influenza, che popolarizzò il già noto[8] uso dell'algoritmo di retropropagazione dell'errore per l'allenamento di reti neurali a più livelli.[9] Nel 2012 AlexNet, rete neurale profonda progettata in collaborazione con i suoi studenti Alex Krizhevsky[10] e Ilya Sutskever, ottenne risultati rivoluzionari nel problema di classificazione delle immagini, migliorando con un largo margine i risultati dell'ImageNet challenge nel 2012[11] e aprendo la strada all'applicazione delle reti neurali profonde in problemi di visione artificiale.[12]

Nel 2018 ricevette, insieme a Yoshua Bengio e Yann LeCun, il Premio Turing per i suoi contributi allo sviluppo dell'apprendimento profondo.[13] I tre ricercatori sono noti come "padrini dell'apprendimento profondo" per via dell'influenza dei loro contributi allo sviluppo del settore.[14][15]

Biografia

Hinton è pronipote di George Boole e del chirurgo e scrittore James Hinton,[16] nipote dello scrittore Charles Howard Hinton e dell'economista Colin Clark,[17] e figlio dell'entomologo Howard Everest Hinton.[18][19] Il suo secondo nome è un omaggio a un suo altro parente, il cartografo George Everest.[20]

Studiò al King's College a Cambridge, dove conseguì un Bachelor of Arts in psicologia sperimentale nel 1970,[18] e successivamente all'Università di Edimburgo, dove conseguì un dottorato di ricerca in intelligenza artificiale nel 1978, sotto la supervisione di Christopher Longuet-Higgins.[21][22][23]

Dopo il dottorato lavorò presso l'Università del Sussex e, a causa della difficoltà nel reperire finanziamenti di ricerca nel Regno Unito, si spostò presso l'Università della California a San Diego e l'Università Carnegie Mellon.[18] Fondò il Gatsby Charitable Foundation Computational Neuroscience Unit presso l'University College London,[18] e divenne professore[24] presso il dipartimento di informatica dell'Università di Toronto, titolare dellla Canada Research Chair in apprendimento automatico, e consulente del programma Learning in Machines & Brains Canadian Institute for Advanced Research (CIFAR). Nel 2012 Hinton tenne un popolare corso gratuito sulle reti neurali artificiali presso la piattaforma di apprendimento online Coursera.[25] Nel marzo 2013 venne assunto da Google a seguito dell'acquisizione della società DNNresearch Inc., da lui fondata, e da allora divide il suo tempo tra l'università e il lavoro presso Google.[26]

Interessi di ricerca

Durante il suo periodo presso l'Università Carnegie Mellon (1982–1987) Hinton, insieme a David E. Rumelhart e Ronald J. Williams, applicò la retropropagazione dell'errore alle reti neurali artifiicali a più livelli, mostrandone la capacità di imparare utili rappresentazioni.[9] In un'intervista tenuta nel 2018,[27] Hinton attribuì a David E. Rumelhart l'idea originale di usare la retropropagazione dell'errore. Il metodo era stato usato in precedenza in tecniche di apprendimento automatico, grazie all'introduzione della differenziazione automatica (che è comunemente usata nell'implementazione dell'algoritmo di retropropagazione) da parte di Seppo Linnainmaa nel 1970, e della sua applicazione all'allenamento di reti neurali da parte di Paul Werbos nel 1974.[8]

Nello stesso periodo Hinton introdusse, insieme a David Ackley e Terry Sejnowski, le macchine di Boltzmann.[28] Produsse inoltre risultati significativi nello sviluppo di rappresentazione distribuita, reti neurali a ritardo, macchine di Helmholts, misture e prodotto di esperti. Nel 2007 contribuì a un articolo sull'apprendimento non supervisionato di trasformazioni delle immagini.[29] I suoi contributi di ricerca sono stati oggetto di articoli divulgativi su Scientific American nel settembre 1992 e ottobre 1993.[30]

Nel 2012 Hinton produsse uno dei risultati più noti della sua carriera, introducendo AlexNet, una rete neurale profonda progettata in collaborazione con i suoi studenti Alex Krizhevsky[10] e Ilya Sutskever. Tale modello ottenne risultati senza precedenti nel problema di classificazione delle immagini, migliorando significativamente rispetto a tecniche tradizionali allora dominanti e ottenendo il primo posto con un largo margine nell'ImageNet challenge nel 2012.[11] Tale risultato fu una pietra miliare nello sviluppo della visione artificiale, aprendo la strada all'applicazione delle reti neurali profonde in una varietà di problemi.[12]

Nell'ottobre e novembre 2017 Hinton pubblicò due articoli[31][32] che introdussero le reti neurali a capsula.[33]

Riconoscimenti

Da sinistra a destra, Russ Salakhutdinov, Richard S. Sutton, Geoffrey Hinton, Yoshua Bengio e Steve Jurvetson nel 2016

Hinton divenne Fellow of the Royal Society nel 1998.[34][35][36][37]

Nel 2001 ottenne un dottorato onorario dall'Università di Edimburgo.[38] Nello stesso anno fu il primo vincitore del premio Rumelhart. Nel 2005 ricevette la Gerhard Herzberg Canada Gold Medal for Science and Engineering.[39] Nel 2013 ottenne un dottorato onorario dall'Università di Sherbrooke.[40] Nel 2016 divenne membro della National Academy of Engineering "per i suoi contributi alla teoria e pratica delle reti neurali artificiali e la loro applicazione a riconoscimento testuale e visione artificiale".[41] Nello stesso anno ricevette l'IEEE/RSE Wolfson James Clerk Maxwell Award[42] e il BBVA Foundation Frontiers of Knowledge Award nella categoria Information and Communication Technologies "per il suo contributo pionieristico e altamente influente" nel dotare le macchine della capacità di apprendere.[43]

Nel 2018 ricevette, insieme a Yann LeCun, e Yoshua Bengio, il Premio Turing "per i contributi concettuali e ingegneristici rivoluzionari che hanno reso le reti neurali profonde una componente informatica essenziale".[44][45][46] Nello stesso anno venne nominato Companion dell'Ordine del Canada.[47]

Vita privata

Hinton lasciò gli Stati Uniti d'America e si trasferì in Canada a seguito delle politiche di Ronald Reagan e del finanziamento militare alla ricerca sull'intelligenza artificiale.[20]

Hinton ha espresso opposizione all'uso di armi letali a controllo automatico. Generalmente si rifiuta di esprimere predizioni a lungo termine riguardo i rischi della singolarità tecnologica, osservando che il progresso esponenziale nel settore causa troppa incertezza sul futuro.[48] Tuttavia, The New Yorker gli attribuisce una conversazione con il ricercatore Nick Bostrom nella quale avrebbe affermato di non aspettare lo sviluppo di un'intelligenza artificiale forte prima di diversi decenni ("non prima del 2070") e che non ci sia speranza di controllare l'uso dell'intelligenza artificiale nel futuro, affermando che i sistemi politici ne faranno uso per terrorizzare la popolazione, e che entità come la National Security Agency stiano già cercando di sfruttare tali tecnologie. Riguardo ai rischi della singolarità tecnologica, non esclude la possibilità di sopravvivenza dell'umanità, ma osserva che non ci sono precedenti di una specie di intelligenza inferiore capace di controllare una specie superiore.[49]

Note

  1. ^ (EN) Geoffrey Hinton was briefly a Google intern in 2012 because of bureaucracy – TechCrunch, su techcrunch.com.
  2. ^ (EN) James Somers, Progress in AI seems like it's accelerating, but here's why it could be plateauing, in MIT Technology Review.
  3. ^ (EN) How U of T's 'godfather' of deep learning is reimagining AI, su utoronto.ca.
  4. ^ 'Godfather' of deep learning is reimagining AI.
  5. ^ (EN) Geoffrey Hinton, the 'godfather' of deep learning, on AlphaGo, in Macleans.ca, 18 March 2016.
  6. ^ Daniela Hernandez, The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI, in Wired, 7 May 2013.
  7. ^ (EN) Geoffrey E. Hinton – Google AI, su ai.google.
  8. ^ a b Deep learning in neural networks: An overview, in Neural Networks, vol. 61, 1º gennaio 2015, pp. 85–117, DOI:10.1016/j.neunet.2014.09.003.
  9. ^ a b (EN) Learning representations by back-propagating errors, in Nature, vol. 323, n. 6088, 9 October 1986, pp. 533–536, DOI:10.1038/323533a0.
  10. ^ a b Dave Gershgorn, The inside story of how AI got good enough to dominate Silicon Valley, su qz.com, 18 June 2018.
  11. ^ a b ImageNet classification with deep convolutional neural networks, Curran Associates Inc., 3 December 2012, pp. 1097–1105.
  12. ^ a b (EN) How a Toronto professor's research revolutionized artificial intelligence | Toronto Star, in thestar.com.
  13. ^ (EN) Canadian researchers who taught AI to learn like humans win $1M award | CBC News, su cbc.ca.
  14. ^ (EN) Ted Ranosa, Godfathers Of AI Win This Year's Turing Award And $1 Million, su techtimes.com, 29 marzo 2019.
  15. ^ (EN) Sam Shead, The 3 'Godfathers' Of AI Have Won The Prestigious $1M Turing Prize, su forbes.com.
  16. ^ The Isaac Newton of logic
  17. ^ The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?, in The Telegraph, 26 August 2017.
  18. ^ a b c d Hinton, Prof. Geoffrey Everest, in Who's Who, Oxford University Press, 2015, DOI:10.1093/ww/9780199540884.013.20261.
  19. ^ Howard Everest Hinton. 24 August 1912-2 August 1977, in Biographical Memoirs of Fellows of the Royal Society, vol. 24, 1978, pp. 150–182, DOI:10.1098/rsbm.1978.0006.
  20. ^ a b The Man Who Helped Turn Toronto into a High-Tech Hotbed, in The New York Times, 23 June 2017.
  21. ^ (EN) Geoffrey Hinton, su Mathematics Genealogy Project, North Dakota State University.
  22. ^ Geoffrey E. Hinton's Academic Genealogy
  23. ^ Geoffrey Everest Hinton, Relaxation and its role in vision, University of Edinburgh, 1977, OCLC 18656113.
  24. ^ https://www.cs.toronto.edu/~hinton/fullcv.pdf
  25. ^ Archived copy, su coursera.org.
  26. ^ U of T neural networks start-up acquired by Google, su media.utoronto.ca, 12 March 2013.
  27. ^ Martin Ford, Architects of Intelligence: The truth about AI from the people building it, Packt Publishing, 2018, ISBN 978-1-78913-151-2.
  28. ^ Ackley, David H; Hinton Geoffrey E; Sejnowski, Terrence J (1985), "A learning algorithm for Boltzmann machines", Cognitive science, Elsevier, 9 (1): 147–169
  29. ^ Geoffrey E. Hinton, Geoffrey E. Hinton's Publications in Reverse Chronological Order, su cs.toronto.edu.
  30. ^ Stories by Geoffrey E. Hinton in Scientific American, su scientificamerican.com.
  31. ^ Sabour, Sara; Frosst, Nicholas; Hinton, Geoffrey. October 2017. "Dynamic Routing Between Capsules"
  32. ^ "Matrix capsules with EM routing" 3 November 2017. OpenReview.net
  33. ^ Geib, Claudia. 2 November 2017. "We’ve Finally Created an AI Network That’s Been Decades in the Making" Futurism.com
  34. ^ Anon, Professor Geoffrey Hinton FRS, su royalsociety.org, Royal Society, 1998.
    Una o più delle precedenti frasi includono testo dal sito royalsociety.org, disponibile sotto licenza CC-BY 4.0:

    «"All text published under the heading 'Biography' on Fellow profile pages is available under Creative Commons Attribution 4.0 International License." -- Royal Society Terms, conditions and policies, su royalsociety.org.»

  35. ^ Current and Previous Recipients, su rumelhartprize.org, David E. Rumelhart Prize.
  36. ^ Anon, Certificate of election EC/1998/21: Geoffrey Everest Hinton, su collections.royalsociety.org, Royal Society, 1998.
  37. ^ Il suo certificato recita:
    (EN)

    «Geoffrey E. Hinton is internationally distinguished for his work on artificial neural nets, especially how they can be designed to learn without the aid of a human teacher. This may well be the start of autonomous intelligent brain-like machines. He has compared effects of brain damage with effects of losses in such a net, and found striking similarities with human impairment, such as for recognition of names and losses of categorization. His work includes studies of mental imagery, and inventing puzzles for testing originality and creative intelligence. It is conceptual, mathematically sophisticated and experimental. He brings these skills together with striking effect to produce important work of great interest.»

    (IT)

    «Geoffrey E. Hinton si è distinto a livello internazionale per i suoi contributi nel settore delle reti neurali artificiali, specialmente riguardo a come possano essere progettate per imparare senza la supervisione umana. Questo potrebbe segnare la nascita di macchine intelligenti simili al cervello. Ha comparato l'effetto di danni cerebrali all'effetto di alterazioni a tali reti neurali, osservando peculiari similarità con la disabilità umana, ad esempio nel riconoscimento di nomi e nella perdita della capacità di categorizzazione. I suoi contributi includono lo studio del linguaggio mentale figurato e l'invenzione di problemi per testare l'originalità e la creatività dell'intelligenza. Concettuale, matematicamente sofisticato, e sperimentale. Assembla tali qualità con notevole effetto e produce risultati importanti e di grande interesse.»

  38. ^ Distinguished Edinburgh graduate receives ACM A.M. Turing Award, su ed.ac.uk.
  39. ^ Artificial intelligence scientist gets M prize, in CBC News, 14 February 2011.
  40. ^ Geoffrey Hinton, keystone researcher in artificial intelligence, visits the Université de Sherbrooke, su usherbrooke.ca, Université de Sherbrooke, 19 February 2014.
  41. ^ National Academy of Engineering Elects 80 Members and 22 Foreign Members, su nae.edu, NAE, 8 February 2016.
  42. ^ 2016 IEEE Medals and Recognitions Recipients and Citations (PDF), su ieee.org, IEEE.
  43. ^ The BBVA Foundation bestows its award on the architect of the first machines capable of learning the way people do, su bbva.com, BBVA Foundation, 17 January 2017.
  44. ^ Vector Institutes Chief Scientific Advisor Dr.Geoffrey Hinton Receives ACM A.M. Turing Award Alongside Dr.Yoshua Bengio and Dr.Yann Lecun, su vectorinstitute.ai, NAE, 27 March 2019.
  45. ^ Three Pioneers in Artificial Intelligence Win Turing Award, in New York Times, 27 March 2019.
  46. ^ Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award - Bengio, Hinton and LeCun Ushered in Major Breakthroughs in Artificial Intelligence, in Association for Computing Machinery, 27 March 2019.
  47. ^ Governor General Announces 103 New Appointments to the Order of Canada, December 2018., su gg.ca.
  48. ^ Lecture 16d The fog of progress (PDF), su cs.toronto.edu.
  49. ^ The Doomsday Invention, in The New Yorker, 16 November 2015.
Controllo di autoritàVIAF (EN94385551 · ISNI (EN0000 0001 1776 1189 · LCCN (ENn80165215 · GND (DE1068117893 · BNF (FRcb13493774b (data) · J9U (ENHE987007426797905171