ÍndexNavegació

índice         no. 35: març - abril   2003

DEL MICO A LA MÀQUINA
Cristina Junyent
i Frederic Udina

(en estricte ordre d'intervenció)


Guió per a una tertúlia d'Els dillunsos d'Idea feta a Barcelona el 27 gener 2003.


1a part: Fins al mico: procés evolutiu


Atès el títol, ens semblava oportú començar amb una cita de Cioran, del llibre "De l'inconvenient d'haver nascut" (1973):
És enutjós qui no està disposat a impressionar. El vanitós és gairebé sempre irritant, però es gasta, fa un esforç: és un pesat que no ho voldria ser, cosa que se li agraeix: acaba per ser suportable i fins i tot sol·licitat. Ara bé, un empal·lideix de ràbia davant d'aquell que no vol causar pas cap efecte. Què se li pot dir i què es pot esperar d'ell? Cal conservar algun dels trets del mico o quedar-se a casa.

Així dons, les preguntes que segueixen la primera part parteixen del mico:
   -
Per quin procés tenim un pensament complex?
    -És important la mesura del mico?
    -Com són les diferències amb el mico?

Per quin procés tenim un pensament complex?

En plantejar el procés pel qual uns micos poden tenir la possibilitat de desenvolupar un pensament complex que els permeti pensar en construir una màquina, diguem-ne per ara, intel·ligent, semblava que no podíem deixar de valorar una de les lleis de la biologia postulada pel genetista Theodosius Dobzkansky a mitjans segle XX, diu que no es pot comprendre res de la biologia si no és sota el prisma de l'evolució. Per això, la primera part és l'evolutiva.
    Fins fa poc més d'un segle no sabíem gaire més del cervell que es trobava dins el cap. Ara sabem que el cervell és l'òrgan d'integració de l'organisme, i de coordinació de la nostra relació amb l'exterior. I sabem on fa moltes d'aquestes activitats: avui s'obtenen imatges de l'activitat mentre pensa o sent. Al cap, a tocar del dur embolcall del cervell, hi tenim els ulls, les orelles, el nas, la llengua... tot un aparell desplegat per rebre i emetre informació. Dins, amb l'experiència i els recursos del pensament, es processa. Fou l'anglès Thomas Willis (1621-1675) qui va deduir que la seu del pensament era el cervell i no el cor, com està registrat des de temps de l'Antic Egipte o Aristòtil o Gal·lè, perquè va observar amb uns altres ulls que quan una persona volia recordar alguna cosa es fregava el front no el cor. No sense un cert sentit, la mateixa paraula recordar té la mateixa arrel que cordis... cor. Els anglesos recorden de memòria, by heart; els francesos, par coeur.
    Per respondre com és la base del pensament, potser caldria fer la reflexió que aquest rau en el sistema nerviós i recordar que només en tenim els animals: les plantes no tenen de sistema nerviós: no es defensen fugint, sinó d'altres maneres; la seva comunicació és molt més química que la nostra. Els animals tenim sistema nerviós i en alguns hi destaca el cervell, que pot ser estructuralment molt complex.

L'anemona de mar, animal que arrela, no en té de cervell: les seves neurones són disseminades pel cos en una xarxa que li permet reaccionar davant estímuls: tanca tentacles. Amb l'aparició d'animals amb simetria bilateral, una part de l'organisme va esdevenir cap i l'altre, cua; com passa amb molts cucs. En una altra línia evolutiva, hi va haver una migració de les neurones cap el cap; d'aquesta tendència a concentrar els òrgans dels sentits, se'n va dir cefalització. Si busquem dades comparatives en els sistemes nerviosos dels animals, veiem que un dels més simples, sense cervell, és el nematode Caenorhabditis elegans  [que es fa servir tant en experiments de biologia (Sidney Brenner ha guanyat el Nobel el 2002 per fer-lo servir com a animal d'experimentació)], que té 160 neurones (el cuc). El cervell del pop es calcula que té mil milions neurones (deu elevat a 9).
    El cervell humà té entorn cent mil milions de neurones (deu elevat a 11). La riquesa rau molt més però en la versatilitat que permeten les connexions entre les neurones: les sinapsis. Mitjançant processos d'intercanvi d'informació per descàrrega elèctrica i de molècules [neurotransmissors, els més coneguts dels quals són l'acetilcolina, la noradrenalina, la dopamina, la serotonina i el GABA] el sistema nerviós integra, passant pel cervell en gairebé tots els casos, la informació que rep de l'exterior i la de l'interior, i dóna ordres de funcionament. Si de neurones hi ha un nombre elevat, de connexions, n'hi ha moltes més: cada neurona estableix, de mitjana, 10.000 sinapsis, que intercanvien informacions de menys d'un milisegon.
    Les neurones d'un pop no són gaire diferents de les nostres. Tampoc no ho són ni les sinapsis, ni els gens. No hi ha diferències qualitatives entre un cervell humà i el d'un altre animal, no ja de primat, sinó la gallina. Per tant, les diferències són quantitatives. El cuc elegant té 160 neurones, potser el nombre mínim de neurones per a un animal. [També hi ha un nombre mínim de gens, perquè es creu que són 300, els que té una bactèria arcaica.] I, què més podem dir de les diferències quantitatives?

És important la mesura del mico?

    Aquesta temporada, els dillunsos d'idea van començar amb un clàssic de la biologia evolutiva, El gen egoista, de Richard Dawkins. Nosaltres també comencem amb un altre clàssic de la literatura de ciència. El llibre que comença el nostre dilluns, en realitat és un dels força reculls dels 300 articles que Stephen Jay Gould va escriure per a la revista Natural History, seguits un cada mes, i dels quals se n'han fet diversos llibres. Gould, que va morir l'any 2002, era paleontòleg perquè el pare el va dur a veure el museu d'història natural de Nova York. Va fer diverses aportacions al sistema de la teoria de l'evolució, com ara la teoria dels equilibris puntuats: que l'evolució ha anat donant saltirons, no ha estat un procés gradual.
    Gould alternava les activitats d'investigador i docent amb les de divulgador. Com a divulgador escrivia sobre evolució, sempre amb exemples engrescadors; els llibres també eren la projecció del seu pensament en debats científics més públics. Un dels debats més encesos el tenia justament amb Dawkins. Es va fer tan famós que va sortir en un capítol dels Simpson. És un goig, per a uns quants, llegir els articles de Gould.
Gould, en un dels primers reculls, parla de la mesura del cervell en relació a la mesura del cos. Segons Gould la mesura de l'animal té importància en el desenvolupament de la intel·ligència. En principi, un animal de mesura més gran necessita un cervell més gran per a integrar la informació que rep de l'organisme sobre la regulació interior i els sentits amb l'exterior que arriben per la superfície cutània. Així doncs, es vol una correcció en la relació entre el pes del cervell i el pes total d'un individu. Un cop feta, es manifesten diverses dades.

    Si s'estudien variacions entre espècies de vertebrats, trobem diferències atribuïbles a la fisiologia de l'animal. Per una banda, hi ha diferències entre animals de sang freda i de sang calenta: aquests segons tenen un cervell més gran. En segon lloc, hi ha variacions que també tenen a veure amb la manera de viure: la relació és més petita en herbívors i superior en carnívors. Un fet que destaca entre els mamífers és la mesura del cervell dels primats: 2/3 superior a carnívors de la mateixa mesura. Entre els primats, cal destacar el cervell dels humans, que és notablement superior a la superior capacitat de tots els altres: només és més gran la del goril·la, que també és més gran que nosaltres.
    En la línia evolutiva dels homínids, ens vam posar drets, vam aprendre a fabricar eines de pedra, se'ns va abombar el front i, en algun moment, vam parlar per a comunicar-nos informació. Si mirem d'esbrinar quan ens vam separar del mico i estudiem la paleontologia humana per veure el procés en el temps, ens adonem que coincideixen en el temps les troballes d'eines de pedra i els cranis humans diferenciats dels homínids. I, segons alguns, també l'asimetria en els cervells associada al desenvolupament de l'àrea de la parla. Si no la parla, la possibilitat de parlar. Tot plegat, ens va permetre desenvolupar aquest pensament abstracte.
    Per tant, a la pregunta inicial: "té importància la mesura del mico?", podem respondre que hi ha un set mínim de mesura: una formiga no podrà desenvolupar una cultura com la nostra, perquè no té un cervell de la nostra magnitud: un sistema nerviós format per cèl·lules com el nostre no els hi cap al cap. Això no era tan clar fa no gaires segles, quan es desconeixia la formació del tots els éssers vius en cèl·lules.

    Què hem d'agrair, doncs, al mico? Hem d'agrair al mico, començar amb una mesura corporal i de cervell desenvolupada, tenir un polze oposat a les nostres mans, i una infància i joventut -és a dir, un període d'aprenentatge- dilatats.

Com són les diferències amb el mico?

    Aquest pensament abstracte, que teòricament guia el nostre comportament, és exclusivament humà? En quina manera som diferents? Són les diferències qualitatives o quantitatives? Doncs, hi ha qui diu que són qualitatives, però entre els qui estudien comportament animal, diuen que són quantitatives. Veiem alguns exemples.
    En què és diferent la "secreció" del cervell? Moltes de les funcions més bàsiques, com ara allò que ens fa seguir més fàcilment un camí conegut per comptes del desconegut, diuen que és una funció que ens resta del cervell reptilià. Altres funcions bàsiques de la decisió, especialment en animals socials, han de ser ràpides, de vegades de mil·lèsimes de segon: quan un animal es troba front a un altre, ha de reconèixer si l'individu que té al davant és mascle o femella, de rang superior o inferior, si és més jove o més gran, si és femella, si està en zel.... (aquesta darrera és més fàcil, les feromones van directes al cervell via nasal).
    Podem penar que tenim un grau més elevat d'abstracció, perquè comptem, però hi ha animals, com ara els coloms, que diferencien quantitats baixes (que compten, vaja). Alguns primats pensen sobre pensar: hi ha molts exemples de ximpanzés que rumien paranys per a companys i dissimular així on és amagat el menjar. Altres primats es comuniquen informació abstracta: les mones
vervet criden per avisar emeten sons diferents si el perill que s'acosta ve per terra (felí), arbre (serp) o aire (àguila); si no hi ha ningú més, la mona que veu el perill no avisa ningú. És a dir, fan abstracció. Podríem coincidir que la diferència és quantitativa i no qualitativa, perquè un llenguatge articulat com el nostre, és força exclusiu; com diu Anna Omedes, del Museu de Zoologia, un mico no pot dir: "mi padre era pobre pero honrado".
    No sabem si els cetacis poden, tot i tenir un llenguatge sonor (per a ells) complex. Tampoc no s'han esbrinat les seves cançons. Com també es podria dir música del que emeten molts ocells. Els ocells cantors, per cert, tenen un cervell proporcionalment més gran que els cervells no cantors de la mateixa mesura.
Què ens queda de ser humans? Potser som l'únic animal que riu i que té consciència religiosa que es podria anomenar
mitopoiesi, en termes fisiològics [i a la qual Engels en hi buscava l'origen.] I, tot i acceptar que les diferències només siguin quantitatives, el nostre cervell té una eina molt poderosa: el raonament.
    El raonament ens permet predir, cosa molt útil per a la supervivència. Tot i veure que podem actuar i prendre decisions com ho fan altres animals, l'enorme capacitat d'aprenentatge ens permet pensar lluny. La part del mico ja està doncs, satisfeta. Ara bé, si pensem sobre pensar, trobarem limitacions en el nostre pensament? Podrà ser suplantada la intel·ligència? podrem arribar a fabricar una màquina que suplanti el pensament humà? Podria el nostre cervell crear-ne un altre d'artificial? un HAL?
Ara arriba en Kic amb la màquina. Com és matemàtic està molt més preparat que jo per a les abstraccions, per pensar sobre pensar i, sobre tot, per les qüestions quantitatives.

2a part: Fins a la màquina. Quins són els límits de la ment humana?

    De la gran estesa de la producció intel·lectual d'Homo sapiens, em centraré en el coneixement científic i vull reflexionar especialment sobre els límits de la intel·ligència humana en aquest àmbit.

Les preguntes:

Fins on poden arribar els humans en la comprensió del món?
Fins on poden arribar els humans en la comprensió del propi cervell?
Poden els humans construir una màquina humana?


Tres processos:

A.- De Descartes a Gödel: l'ideal formalista
B.- De Laplace a Heisenberg: l'ideal empirista
C.- De Turing a Damasio: l'ideal maquinista

A.- De Descartes a Gödel: l'ideal formalista


Descartes formula un programa per la construcció del coneixement científic basat en els Elements d'Euclides.
    Anys després, Hilbert (en la seva cèlebre llista de 23 problemes per a la matemàtica del segle XX) i sobretot Russell i Whitehead (Principia Mathematica 1910-1913) formulen l'ambició d'englobar totes les matemàtiques (o almenys l'aritmètica) en un sistema deductiu basat en la teoria dels conjunts. El sistema ha de ser consistent i complet.
    El 1931, Gödel demostra que no és possible un sistema deductiu consistent i complet que inclogui l'aritmètica. Ho expliquem una mica.
La idea d'un sistema formal, com els
Elements d'Euclides, és la d'establir uns axiomes, expressar un mètode vàlid de deducció de veritats a partir d'altres veritats, i després posar en marxa el procés: dels axiomes dedueixo això i això altre. D'aquests resultats dedueixo aquest i altre teoremes. S'entén que:

     1 El mètode no produirà mai resultats falsos, i encara menys contradictoris.
Estem segurs que mai una afirmació i la seva contrària podran ser demostrades. Això és la Consistència.
    2 Qualsevol resultat veritable podrà ser demostrat pel mètode, potser passaran segles i esforços de molts matemàtics, però és possible trobar la demostració. Això és la completitud.

    Gödel demostra que no és possible construir un sistema deductiu consistent i complet que englobi la aritmètica dels nombres naturals (els de comptar 0, 1, 2, ... ). I ho demostra posant de manifest que en qualsevol sistema consistent, sempre hi haurà alguna afirmació tal que ni ella ni la seva contrària poden ser demostrades dintre del sistema (i una de les dues ha de certa!)
Això suposa un fort xoc pels que creien (o encara creuen) que la força de la raó és il·limitada: no ho és, té límits.
Un llibre de referència és, per aquest apartat, el de Hofstadter: Gödel, Escher, Bach. An eternal golden Braid.
B.- De Laplace a Heisenberg: l'ideal empirista

Dans l'introduction de sa théorie analytique des probabilités, Laplace écrit :

"Nous devons envisager l'état présent de l'univers comme l'effet de son état antérieur et comme la cause de celui qui va suivre. Une intelligence qui, pour un instant donné, connaîtrait toutes les forces dont la nature est animée et la situation respective des êtres qui la composent, si d'ailleurs elle était assez vaste pour soumettre ces données à l'analyse, embrasserait dans la même formule les mouvements des plus grands corps de l'univers et ceux du plus léger atome; rien ne serait incertain pour elle, et l'avenir, comme le passé, serait présent à ses yeux. " Cette conception a été à l'origine d'un grand courant de pensée philosophique.  (Citat a http://www.math.unicaen.fr/~reyssat/laplace/)


Laplace formula la idea de l'univers com un rellotge precís. Si coneguéssim en un moment donat la posició de tots els cossos i la seva velocitat, aplicant les lleis de la mecànica celeste podríem conèixer l'estat de l'univers en qualsevol moment del futur. És només una expressió concreta de l'ideal que impregna les ciències naturals el segle XIX: les limitacions al coneixement científic són circumstancials, la ciència tard o d'hora ha de ser capaç d'explicar el món d'una manera completa.
    El Principi d'Incertesa de Heisenberg (1927) nega que tal cosa sigui possible. Aquest principi diu que no es pot conèixer alhora amb precisió la posició i la velocitat (de fet la quantitat de moviment) d'una partícula. Una manera d'entendre l'origen d'aquesta incertesa és tenir present que per observar una partícula cal fer servir algun medi d'observació - normalment el llum, per veure la partícula, o algun altre tipus de raig, per detectar-la. Però el contacte del raig amb la partícula modifica el seu moviment d'una manera o altra.
És una versió científica i espectacular d'un principi que molta altra gent coneix per experiència pròpia: res es pot observar sense al mateix temps modificar l'objecte observat. Estarien d'acord amb això els psicòlegs o els sociòlegs, els escriptors, els viatgers/turistes, l'espectador de teatre o el crític d'art, el pare que vol conèixer el seu fill, etc.
    De tota manera, el que volem destacar aquí és que la metodologia científica basada en la observació empírica també sap que té uns límits impossibles de superar.
    Un altre camí d'anàlisi ens portaria a considerar que si només podem conèixer aproximadament la posició o la velocitat dels constituents, el comportament caòtic dels sistemes dinàmics fa que sigui fotesa la pretensió de predir el seu futur.
C.- De Turing a Damasio: l'ideal maquinista
Fem ara un salt a un territori que encara conec menys que els anteriors. Als anys cinquanta, quan es van començar a desenvolupar els ordinadors, va sorgir amb força la Intel·ligència Artificial. Es tractava de veure com es podria produir una màquina, un ordinador, que tingués la intel·ligència d'un humà.
Si la pregunta és
Podran mai els humans construir una màquina intel·ligent?, hem d'establir què entenem per màquina i què per intel·ligència. La primera és més senzilla: una màquina és una construcció que és possible fer-la seguint una sèrie d'instruccions executables sense necessitat de saber què s'està fent.
    Tractant de especificar què és la intel·ligència, Turing va dissenyar el què es coneix com el test de Turing (1950): Un ordinador seria intel·ligent si una persona comunicant-se amb l'ordinador a través d'un terminal (teclat i pantalla de text) fos incapaç de decidir si a l'altra banda del fil hi ha una persona o una màquina(*).
    No aprofundirem en aquesta qüestió. El llibre de Hofstadter i el de Penrose tracten el tema. Però ens interessa remarcar el concepte d'intel·ligència que aquest test especifica: la intel·ligència tindria com a únic conducte el llenguatge, i encara el llenguatge escrit. Això s'inscriu en la millor tradició filosòfica occidental (Descartes altre cop, Kant, etc.) que identifica la intel·ligència amb el raonament i el raonament amb allò que sigui comunicable a través del llenguatge.
En aquest context m'ha resultat molt interessant el llibre de Damasio ,
El error de Descartes. La tesi del llibre és que la ment humana no resideix exclusivament al cervell sinó que està íntimament lligada a les emocions i altres aspectes que rauen a la resta del cos. Nega que sigui possible l'ideal del raonament fred que no es deixa influir per les emocions, i demostra que el cervell per si mateix és incapaç de completar la capacitat de raonament que reconeixem com a humana.
(Tindreu en compte sens dubte que no sé explicar un llibre com aquest en quatre ratlles sense simplificar molt, i probablement equivocant-me un tant).
Basant-se en l'estudi de pacients neurològics amb lesions serioses de determinats components cerebrals, constata que presenten les següents disfuncions: mostren incapacitat en la planificació i decisió, en especial aquells processos de planificació i decisió que afecten a l'esfera personal i social, tenen seriosament afectada la capacitat de processament correcte de les emocions, i també perden la capacitat de memorització d'imatges a llarg termini. En canvi tenen absolutament indemnes la capacitat d'atenció, la memòria, el llenguatge i la majoria de les funcions cerebrals habituals. Com que els components cerebrals compromesos resulten ser els que comuniquen el cervell amb les altres vísceres, l'autor conclou que el cervell i el cos treballen com un tot indissociable, que interactua amb l'entorn com un conjunt.
    Les emocions pertanyen més al cos, com el llenguatge pertany més al cervell o a algunes àrees concretes del mateix. Però la presa de decisions, sosté Damasio, queda molt ben repartida, les emocions hi tenen un paper important. Donat que una decisió purament racional implicaria la consideració de innombrables possibilitats, el mecanisme pel qual decidim implica els marcadors somàtics: associem certes idees, imatges, situacions, amb estats somàtics, sensacions del propi cos i són aquestes associacions les que ens permeten rebutjar automàtica i inconscientment tota una sèrie de branques de l'arbre de decisions (interessant recordar aquí el premi Nobel Daniel Kahneman pels seus estudis de la irracionalitat de les decisions humanes en contextos econòmics). La intuïció, com a guia inconscient del pensament, i el mateix subconscient freudià, respondrien a mecanismes similars.
    L'error de Descartes seria doncs la concepció, en el Cogito ergo sum, de l'ànima pensant com alguna cosa totalment separada del cos, amb existència independent del mateix. I aquesta idea està profundament arrelada a la cultura occidental, i, per exemple, desenfoca el tractament dels problemes mèdics, tot separant el cos de la ment.
    Un cop considerada la intel·ligència humana des d'aquesta perspectiva, tornem a la pregunta original: és possible una màquina intel·ligent? Evidentment la resposta no crec que existeixi, però a la vista de les limitacions que hem assenyalat per al coneixement científic, la meva inclinació és pel no. En tot cas, si volem una màquina que reprodueixi el comportament humà, haurà de tenir cor, pell, fetge i tota la resta de components necessaris per a un bon funcionament de la ment humana.
    Acabaré amb un acudit que sempre m'ha agradat: si mai un grup de científics aconsegueix un ordinador intel·ligent, el més probable és que es passi tot el primer any de la seva vida sense dir més que Gu! Guuugr! Da, Da. I que la primera mostra d'intel·ligència sigui el clam "Ma-ma!".

(*)És famós el programa d'ordinador Eliza, que d'una manera molt simple imita un psicoanalista en diàleg amb l'usuari. D'intel·ligent no ho és ni un pèl. però aconsegueix donar la impressió que algú està a l'altra banda, escoltant i responent

Els llibres de la primera part
CAVALLI-SFORZA, Francesco; CAVALLI-SFORZA, Luigi Luca (1999). La ciència de la felicitat. Edicions Proa, Barcelona.
Damasio, Antonio R. and Damasio, Hanna (1992). "Cerebro y lenguaje".
Investigación y Ciencia. 194(noviembre):59-66.
DENNET, Daniel (2000)
. La peligrosa idea de Darwin. Galaxia Gütemberg, Barcelona.
DENNET, Daniel (2000)
. Tipos de mentes. Hacia una comprensión de la conciencia. Editorial Debate, Madrid.
GOULD, Stephen Jay (1982)
. El pulgar del panda. Hermann Blume, Barcelona.
GOULD, Stephen Jay (1983)
. Desde Darwin. Reflexiones sobre historia natural
Cuantificación de la inteligencia humana.
Hermann Blume, Madrid.
GOULD, Stephen Jay (1987)
. La falsa medida del hombre. Ediciones Orbis, Barcelona.
LÓPEZ GARCÍA, Juan Carlos (1999)
. El taller de la memòria. Edicions Bromera, Alzira.
PINKER, Steven (1995)
. El instinto del lenguaje. Alianza Editorial, Madrid.
RUBIA, Francisco J (2000)
. El cerebro nos engaña. Temas de hoy, Madrid.
VILARROYA, Óscar (2002)
. La disolución de la mente. Tusquets, Barcelona.

Els llibres de la segona part
Damasio, Antonio R. (1996). El error de Descartes. Editorial Crítica, Barcelona.
Una entrevista recent (16/12/2002) amb Damasio a La Vanguardia
Penrose, R.
The emperor's new mind. Oxford Uniersity Press, Oxford, 1989.
Hofstadter, D.
Gödel, Escher, Bach. An eternal golden Braid. Basic Books, 1987. Traducció espanyola de M. A. Usabiaga i A. López Rousseau: Gödel, Escher, Bach: Un Eterno y Grácil Bucle. Tusquets Editores, 1987.

Per acabar, recomanem el conte de Roald Dahl "William and Mary" a Kiss Kiss que podeu llegir a:
http://www.roalddahlfans.com/shortstories/will.php

© Cristina Junyent i Frederic Udina

Aquesta obra no pot ser arxivada ni distribuïda sense el permís explícit de l´autor. Us preguem llegiu les condicions d'utilització
navegació:  

tbr : no. 35: març - abril   2003

-Narrativa
      Matthew Tree: pròleg del llibre Memòries! 1974-1989
      Monika Zgustova: No parlaràs malament dels morts
      Ramón Farrés: La mort blanca
      Carles Camps i Mundó: Dues proses: Resurrecció i La garsa
      Peu de foto: Martí Domínguez, Anna Montero i Francesc Calafat

-Poesia
     
Jordi Domènech: Tercera entrega de Poesia dialectal italiana
      Dolors Miquel: Cinc poemes
      Francesc Garriga Barata: Quatre poemes
      Carles Hac Mor: Sis poemes sis
      Ester Xargay: Del foc llibert rodolí cert
-Assaig
      Cristina Junyent i Frederic Udina: Del mico a la màquina
-Ressenyes
     
Enric Sòria: Emily Dickinson Jo no sóc ningú! Qui ets tu?
-Rebosteria selecta 
-crítiques breus/ressenyes (en català)
-crítiques breus (en anglès sobre llibres de publicació recent)
-números anteriors
-Audio
-enllaços (Links)

www.BarcelonaReview.com   anglès | castellà | francès | pàgina de l'editor | e-m@il