cerveau naturel et intelligence artificielle: un dialogue vertueux entre neuroscience et...

Cer veau naturel et intel l igence ar t i f i c ie l le : un d ia logue ver tueux entre neurosc ience et informat ique

6e édition des journées NeuroSTIC, Brest, 6 Octobre 2017

Guillaume Dumas, Laboratoire de Génétique Humaine & Fonctions Cognitives

Partie 1: Top-Down

2 • Guillaume Dumas • Cerveau naturel et intelligence artificielle: un dialogue vertueux entre neuroscience et informatique • 2017-10-06


GoogLeNet, a 22 layers deep network


"Ce n'est pas un mouvement humain.Je n'ai jamais vu un homme jouer ce geste.

C’est tellement beau." Fan Hui, Champion Européen de Go


Ordinateur neuromorphique TrueNorth

Programme de la DARPA SyNAPSE


In-Datacenter Performance Analysis of a Tensor Processing UnitTM (Jouppi et al. 2017)


“ Une cellule nerveuse est plus qu'unsimple organe actif de base (...) Ainsi, toutes les complexités mentionnéesici peuvent ne pas être pertinentes,

mais elles peuvent aussi conférer au système un caractère analogique ou

un caractère « mixte » ”Von Neumann (1958)

The Computer & the Brain

2 differences majeures:

Structure : redondance

Dynamique : Evolution vs. Design



Felleman & Van Essen (1991) asimovinstitute.org/neural-network-zoo/

. . .

Partie 2: Bottom-Up


Izhikevich & Edelman, PNAS 200812 • Guillaume Dumas • Cerveau naturel et intelligence artificielle: un dialogue vertueux entre neuroscience et informatique • 2017-10-06


“Il y a beaucoup d'avantages pour chaque neuroscientifique parce que

nous avons maintenant un nouvelatlas, nous pouvons utiliser des supercalculateurs, nous pouvons

prouver nos modèles, une plate-formeNeurorobotics, de nouveaux outils de

simulation et ainsi de suite.”Katrin Amunts, HBP Board Member


“Le vilain secret est que nous ne comprenonsmême pas le nématode C. Elegans, qui a

seulement 302 neurones”Christof Koch, Allen Brain Institute Chief Scientific Officer

“Il y a beaucoup d'avantages pour chaque neuroscientifique parce que

nous avons maintenant un nouvelatlas, nous pouvons utiliser des supercalculateurs, nous pouvons

prouver nos modèles, une plate-formeNeurorobotics, de nouveaux outils de

simulation et ainsi de suite.”Katrin Amunts, HBP Board Member

Credit: Liang Gao, 2017

” la prochaine fois que vousverrez une jolie image 3D de nombreux neurones simulés, pensez "cerveau culte du cargo". Cette simulation ne va pas penserplus que les avions du culte du cargo vont voler. ”


Credit: The OpenWorm ProjectImage generated by neuroConstruct)


Neuroscience-Inspired Artificial Intelligence (Hassabis et al. Neuron 2017)

A Intuition des lois physiques (Battaglia et al., 2016)

B compréhension de scène par modèles génératifs (Eslami et al., 2016)

C Apprentissage non-supervisé des propriétés intrinsèquesd’objets (Higgins et al., 2016) par factorisation par modèlegénératifs profonds (Variational Auto-Encoder [VAE])


”As one would expect from a journalcalled Neuron, the article was prettypositive about the use of neurons![…] All of these examples seemprimarily motivated by the underlyingpsychology, not the biologicalimplementation. Which is fine! Butdoes that mean that the biology hasnothing to teach us?”

Adam J Calhoun (@Neuroecology) .

Plasticité - Au-delà de la rétropropagation

Connectivité - du partage du poids aux réseaux récurrents

Astrocytes - integration de plusieurs échelles de temps

Corps - pour obtenir tout seul son ensemble d’apprentissage

Oscillations - Temps, attention et calcul sub-liminaire

…



"My view is throw it all away and start again " "I suspect that means getting rid of back-propagation.”

"I don't think it's how the brain works""We clearly don't need all the labeled data."

Geoffrey Hinton, 2017


Unsupervised Learning of Visual Features through Spike TimingDependent Plasticity. Masquelier & Thorpe, PLoS Comp Biol 2007

Partie 3:



Top-Dow

n(Sem

ioticalView)

Botto

m-U

p(In

form

atio

nal V

iew

)

Source: lkm.fri.uni-lj.si

Neurobiology


Dumas et al., PLoS ONE 2010

Dumas et al., PLoS ONE 201228 • Guillaume Dumas • Cerveau naturel et intelligence artificielle: un dialogue vertueux entre neuroscience et informatique • 2017-10-06

+ x 2 =

Large-scale, anatomically detailed models of the brain allow to perform experiments

that are impossible (physically or ethically)



Normal Shuffle



FFT

Brai

n Ar

ea S

igna

ls

Cortical Level Scalp Level

C in

tra

C in

traFF

TEE

G S

igna

ls



Real connectivity facilitate inter-brain synchronization

Residual synchronization

Information exchanged between the two virtual brains

Inte

r-br

ain

sync

hron

izat

ion


Kelso, Dumas, & Tognoli, Neural Networks 2013

Expe

rimen

tal

Com

puta

tiona

l


Dumas et al. « The Human Dynamic Clamp » PNAS 2014


Dumas et al. « The Human Dynamic Clamp » PNAS 2014

”The Turing test implies only that judges are unable to tell if an agent is a human or a machine, and as such says nothing about the genuineness of the path toward that decision.

Here, the Human Dynamic Clamp is a tool to test hypotheses and gain understanding about how humans

interact with each other as well as with machines. In the HDC paradigm, exploration of the machine’s behavior may be

viewed as an exploration of us as well.”


TheorieM

etho

des

Models


Cliques of Neurons Bound into CavitiesProvide a Missing Link between Structure and Function (Reimann et al. 2017)

Predictability of human EEG: a dynamical approach (Gallez & Babloyantz, Biol. Cybernetics 1991)

”It has been shown previously (Babloyantz et al.1985, Babloyantz and Destexhe 1986) that thecorrelation dimension has a saturation region infunction of the embedding dimension”


«À moins que nosméthodes ne puissent

traiter le cas d’un simple processeur,

comment pouvons-nous nous espérer que celafonctionne sur notre

propre cerveau?Jonas & Kording 2016

Méthode lésionelle Enregistrement de potentiels d’action

Enregistrement du champ électrique


Hofree et al. Nat. Meth. 2013; Kim, Poline & Dumas BiorXiv 2017

Large CohortHighly Heterogeneous

Genetic Profiles

Individuals ClustersHomogeneousGenetic Profiles


Rolland et al. Cell 2014

Biais social de la matrice d’adjacence

Biais biologique du nombre de mutations

SystématiqueLitterature


TheorieM

etho

des

Models


Dark Control: A Unified Account of Default Mode Function by Markov DecisionProcesses (Elvis Dohmatob, Guillaume Dumas, & Danilo Bzdok, BioRxiv 2017)

Conclusion



Top-Dow

n(Sem

ioticalView)

Botto

m-U

p(In

form

atio

nal V

iew

)

Source: lkm.fri.uni-lj.si

Neurobiology


Top-Dow

n(Sem

ioticalView)

Theory

Hypothesis

Experiment

Data

Pattern

Model

Botto

m-U

p(In

form

atio

nal V

iew

)

Méthodologies pour l’analyses de données

Heuristiques pour Architectures Cognitives

& Algorithmes AI

Interactions Humain-Humain & Humain-

Machine

Ph.D @ ICMJacqueline NadelJacques MartinerieRobert SoussignanMario Chavez

Postdoc @ CCSBS

Institut Pasteur

CollaboratorsLeonhard SchilbachBenno SchwikowskiDanilo BzdokElvis DohmatobDenis EngemannEva LothJumana Ahmad

Thomas BourgeronJean-Pierre ChangeuxThomas RollandFreddy CliquetAlexandre MathieuYang-Min KimRoberto ToroHany Goubran-Botros

Richard DelormeAline LefebvreAnita BeggiatoAnna Maruani

J.A. Scott KelsoEmmanuelle TognoliGonzalo DeGuzmanArmin FuchsMengsen Zhang

48 • Guillaume Dumas • The Challenge of Interacting with Others • 29/09/2016 — Aarhus University — Interacting Minds in Collaboration

Viviane KostrubiecAlexandre LehmannAsaf BachrachJulien LarocheErik MarondeMerle FairhurstBenoît Theuil

Hôpital Robert Debré

Merci de votre [email protected] – Extrospection.eu – @introspection

cerveau naturel et intelligence artificielle: un dialogue vertueux entre neuroscience et...

Science