Dyb læring

Dyb læring
Underklasse af Maskinelæring

Den dybe læring eller læring i dybden (i engelsk  : dyb læring , dyb læring struktureret , hierarkisk læring ) er et sæt af metoder til maskine læring forsøger at modellen med et højt abstraktionsniveau af data via leddelte arkitekturer af forskellige ikke-lineære transformationer. Disse teknikker har muliggjort betydelige og hurtige fremskridt inden for analyse hørbart eller visuelt signal inklusive ansigtsgenkendelse , stemmegenkendelse , computersyn , automatiseret sprogbehandling . I 2000'erne førte denne fremgang til betydelige private, akademiske og offentlige investeringer, især fra GAFAM (Google, Apple, Facebook, Amazon, Microsoft).

Beskrivelse og baggrund

Deep learning er en af ​​en familie af maskinlæringsmetoder baseret på læring fra datamodeller. En observation (et billede, for eksempel) kan repræsenteres på forskellige måder af en vektor , en matrix eller en datatensor, især ifølge:

Visse repræsentationer og en god kapacitet til automatisk analyse af differentieringer gør læringsopgaven mere effektiv.

Udsigterne til dyb læring af teknikkerne erstatter noget arbejde, der stadig er relativt besværligt, for algoritmiske modeller af overvåget læring , uden tilsyn (det vil sige ikke kræver specifik viden om det undersøgte problem) eller ved hierarkiske egenskaber ekstraktionsteknikker.

Forskning på dette område stræber efter at opbygge bedre repræsentationer af virkeligheden og skabe modeller, der er i stand til at lære disse repræsentationer fra store umærkede data. Nogle af disse repræsentationer er inspireret af de seneste fremskridt inden for neurovidenskab. Groft sagt er disse fortolkninger af nervesystemets informationsbehandling og kommunikationsmodeller, som hvordan nervesystemet opretter forbindelser baseret på de modtagne meddelelser, det neurale respons og vægten af ​​forbindelserne mellem neuroner i hjernen.

Forskellige dyb læringsarkitekturer såsom dybt neuralt netværk , neurale netværk Konvolutive "  konvolutions dybe neurale netværk  " og dybe tro netværk  (in) har flere anvendelsesområder:

Især inden for disse sidste to områder opnåede de meget lovende resultater.

Definition

Deep learning teknikker udgør en klasse af maskinlæringsalgoritmer, der:

Disse arkitekturer gør det nu muligt at give "mening" til data ved at give dem form af billeder, lyde eller tekster.

Dyb læring bruger skjulte lag af kunstige neurale netværk, "  begrænsede Boltzmann-maskiner  " og sæt af komplekse propositionelle beregninger. Dyb indlæringsalgoritmer er i modsætning til overfladiske indlæringsalgoritmer på grund af antallet af transformationer udført på dataene mellem inputlaget og outputlaget, hvor en transformation svarer til en behandlingsenhed defineret af vægte og tærskler.

Historisk

Begrebet dyb læring tog form i 2010'erne med konvergensen af ​​fire faktorer:

I oktober 2015, AlphaGo- programmet , der er blevet "lært" at spille Go takket være den dybe læringsmetode, slår den europæiske mester Fan Hui med 5 spil til 0. Imarts 2016, det samme program slår verdensmester Lee Sedol med 4 spil mod 1.

Anvendelsesområder

Deep learning gælder for forskellige sektorer inden for IKT , herunder:

Deep Learning-metoden bruges i dag til udvikling af automatiske oversættelsesmotorer.

Dyb læring kan for eksempel hjælpe med at:

En anvendelse af dyb læring til folkesundheden er Eyra-virksomhedens Horus-projekt. Det er en bærbar enhed, der bruger NVidia Jetson-platformen, som hjælper synshandicappede eller blinde til at orientere sig og genkende mennesker eller genstande ved at transkribere et billede taget af et kamera i lyd. Forbindelser mellem dyb læring og spilteori er etableret af Hamidou Tembine ved især at bruge mellemfeltspil .

I fysik bruges dyb læring til forskning på eksotiske partikler .

Reaktioner

Mulige ondsindede anvendelser af dyb læring påpeges. Det bliver således muligt at indlejre en persons ansigt på en anden uden hans viden og få ham til at gøre eller sige ting, som han ikke gjorde (som i filmen Running man fra 1986), den dybe læring, der genskaber bevægelserne i ansigt ved at gøre indlægget realistisk. Adskillige skuespillerinder som Gal Gadot, Emma Watson, Cara Delevingne, Emma Stone, Natalie Portman eller Scarlett Johansson befandt sig således med ansigtet på en pornografisk skuespillerinde ved hjælp af software tilgængelig for offentligheden kaldet Deepfakes , hvilket skabte frygt for generaliseringen af sådan brug, der tillader enhver at skade en anden persons omdømme. Stillet over for denne fare reagerede adskillige platforme som PornHub, Twitter og Reddit ved at forbyde offentliggørelse af sådanne videoer, og brugeren "deepfakes", skaberen af ​​den samme software, der tillader enhver bruger at oprette falske pornografiske videoer., Blev forbudt fra reddit og dens dedikerede tråd blev slettet.

I 2019 frigav OpenAI adskillige højtydende kunstige intelligenser til generering af syntetisk tekst fra et resumé. Mens de udtrykte deres bekymringer over den mulige omdirigering af denne type teknologi, har foreningens forskere givet op med at dele den fulde version af kunstig intelligens.

Noter og referencer

  1. “  deep learning  ” , Le Grand Dictionnaire terminologique , Office québécois de la langue française (adgang til 28. januar 2020 ) .
  2. [PDF] Kommissionen til berigelse af det franske sprog , "Vocabulaire de l'Intelligence Artifique (liste over udtryk, udtryk og definitioner vedtaget)", Journal officiel de la République française n o  0285 du9. december 2018[ læs online ] .
  3. "  Dyb læring til informationsindsamling i Bayesianske slutninger | androide  ” , på androide.lip6.fr (adgang til 6. oktober 2020 )
  4. "Deep learning": undersiden af ​​en forstyrrende teknologi , prospektiv analyse, Futurible.
  5. AG Baydin, BA Pearlmutter, AA Radul og JM Siskind (2015), ”  Automatisk differentiering i maskinindlæring: en undersøgelse  ”, arXiv fortryk arXiv: 1502,05767. 185.
  6. J. Zhou og OG Troyanskaya (2015), “  Forudsigelse af effekter af ikke-kodende varianter med dyb læringsbaseret sekvensmodel  ”, Nature Methods , 12 (10), 931-934 ( abstrakt ).
  7. B. Alipanahi, A. Delong, MT Weirauch og BJ Frey (2015), “  Forudsigelse af sekvensspecificiteter af DNA- og RNA-bindende proteiner ved dyb læring  ”, Nature Biotechnology ( abstract ).
  8. J. Schmidhuber (2015), “  Dyb læring i neurale netværk: Et overblik  ” , Neurale netværk , 61, 85-117.
  9. Collobert, R. (2011). Dyb læring til effektiv diskriminerende parsing . I AISTATS'2011. 95.
  10. DH Ackley, GE Hinton og TJ Sejnowski (1985), "  En læringsalgoritme til Boltzmann-maskiner  ", Cognitive Science , 9, 147 {169. 590.
  11. USI-begivenheder , “  Deep learning - Yann LeCun, at USI  ” , på www.youtube.com
  12. David Larousserie og Morgane Tual, "  Første nederlag for en go professional mod en kunstig intelligens  ", Le Monde ,27. januar 2016( læs online ).
  13. William Audureau , "  Game of go: for Lee Sedol er maskinens sejr mindre taktisk end psykologisk  ", Le Monde.fr ,15. marts 2016( ISSN  1950-6244 , læst online , hørt 16. marts 2016 ).
  14. D. Ciresan, U. Meier, J. Masci og J. Schmidhuber (2012), “  Multi-column deep neuralt netværk til klassificering af trafikskilt  ”, Neural Networks , 32, 333-338. 22, 195.
  15. M. Cai, Y. Shi og J. Liu (2013), "  Deep maxout neurale netværk til talegenkendelse  " i Automatic Speech Recognition and Understanding ( ASRU ), 2013 IEEE Workshop på, side 291-296. IEEE. 198.
  16. P. Baldi og S. Brunak (1998), “  Bioinformatics, the Machine Learning Approach  ”, MIT Press , 579.
  17. (i) Anindya Gupta , Philip J. Harrison , Håkan Wieslander og Nicolas Pielawski , "  Deep Læring i Billede cytometri: A Review  " , cytometri del A , bd.  95, nr .  4,2019, s.  366–380 ( ISSN  1552-4930 , DOI  10.1002 / cyto.a.23701 , læst online , adgang 23. april 2019 )
  18. D. Held, S. Thrun og S. Savarese (2015), “  Deep Learning for Single-View Instance Recognition  ” , arXiv fortryk arXiv: 1507.08286.
  19. WY Lim, A. Ong, LL Soh og A. Sufi (2016), ”  Lærernes stemmer og forandring: Strukturen og agenturets dialektik, der formede lærernes pædagogik mod dyb læring  ”, i fremtidig læring i folkeskoler (s. 147) -158), Springer Singapore.
  20. I. Mariolis, G. Peleka, A. Kargakos, og S. Malassiotis (juli 2015). Pose og kategorigenkendelse af stærkt deformerbare objekter ved hjælp af dyb læring . I Advanced Robotics (ICAR), 2015 International Conference on (s. 655-662). IEEE ( resumé ).
  21. SE Kahou, X. Bouthillier, P. Lamblin, C. Gulcehre, V. Michalski, K. Konda,… og Y. Bengio (2015). EmoNets: Multimodale tilgang til dyb læring til følelsesgenkendelse i video . arXiv fortryk arXiv: 1503.01800.
  22. M. Oberweger, P. Wohlhart og V. Lepetit (2015), "  Hands Deep in Deep Learning for Hand Pose Estimation  " , arXiv fortryk arXiv: 1502.06807.
  23. A. Kendall og R. Cipolla (2015), ”  Modellering Usikkerhed i Deep Læring for Camera relokalisering  ” , arXiv fortryk arXiv: 1509,05909 ( abstract ).
  24. A. Halpern og JR Smith (oktober 2015), ”  Deep Læring, Sparse Coding, og SVM for melanom Anerkendelse i dermoskopi Images  ”, i Machine Learning i medicinsk billedbehandling: 6th International Workshop , MLMI 2015 arrangeret i samarbejde med MICCAI 2015 München, Tyskland,5. oktober 2015, Proceedings (bind 9,352, s. 118), Springer ( abstrakt ).
  25. (i) Laetitia Jeancolas, Dijana Petrovska-Delacrétaz Graziella Mangone, Badr-Eddine Benkelfat, Jean-Christophe Corvol, Mary Vidailhet Stéphane Lehéricy og Habib Benali, "  X-vektorer: Ny Kvantitativ Biomarkører for tidlig Parkinsons sygdom Detection Fra Speech  " , Frontiers i Neuroinformatics , vol.  15,2021( ISSN  1662-5196 , DOI  10.3389 / fninf.2021.578369 , læs online )
  26. M. Veres, G. Lacey og GW Taylor (juni 2015), "  Deep Learning Architectures for Soil Property Prediction  " [PDF] , i Computer and Robot Vision ( CRV ), 2015 12. konference om (s. 8-15), IEEE ( resumé ).
  27. "  DeepArt, computeren, der maler dit portræt  " , på https://actu.epfl.ch/ ,11. april 16(adgang til 5. juli 2016 )
  28. Olivier Lascar, "  Horus-systemet til visuel genkendelse beregnet til blinde skylder alt til" dyb læring "  " på Sciences et Avenir .fr ,9. januar 2017(adgang 21. februar 2018 ) .
  29. H. Tembine , "  Deep Learning Meets Game Theory: Bregman-Based Algorithms for Interactive Deep Generative Adversarial Networks  ", IEEE-transaktioner på cybernetik ,2018, s.  1–14 ( DOI  10.1109 / TCYB.2018.2886238 , læst online , adgang til 14. oktober 2019 )
  30. P. Baldi, P. Sadowski og D. Whiteson (2014), ”  Søgning efter eksotiske partikler i highenergy fysik med dyb læring  ”, Nature Communications , 5. 23.
  31. (da-USA) "  Ansigtsgenkendelse for pornostjerner er et mareridt om privatlivets fred venter på at ske  " , bundkort ,11. oktober 2017( læs online , hørt 26. januar 2018 )
  32. "  Porno med stjerner indlejret i det er ikke velkomne på Internettet  ", madmoiZelle.com ,8. februar 2018( læs online , konsulteret den 8. februar 2018 )
  33. (in) "  Bedre sprogmodeller og deres implikationer  " på OpenAI ,14. februar 2019(adgang til 23. april 2019 )

Se også

Relaterede artikler

Begreber

Software Teoretikere

eksterne links

Bibliografi

  • (en) Ian J. Goodfellow, Yoshua Bengio og Aaron Courville, Deep Learning , MIT Press,2016( ISBN  0262035618 , læs online ) [ detaljer om udgaver ]
  • Y. Bengio (2009), Learning Deep Architectures for AI , Now Publishers , 149, 195.