Gödel e l’Intelligenza Artificiale

50

L’accecamento di Sansone (Lovis Corinth, 1911)

Gödel e l’Intelligenza Artificiale

di Giorgio Masiero

A 40 anni dalla morte del massimo logico matematico di tutti i tempi, esaminiamo una conseguenza del suo teorema d’incompletezza

Un bel giorno ogni studente delle medie impara la procedura per risolvere l’equazione di secondo grado ax^2 + bx + c = 0. I calcoli si svolgono in 9 passi:

  1. Il quadrato di b, b^2;
  2. Il quadruplo del prodotto di a per c, 4ac;
  3. La differenza b^2 – 4ac ≡ ∆;
  4. La radice quadrata di ∆, √∆;
  5. La somma algebrica –b + √∆ ≡ y1;
  6. La somma algebrica –b – √∆ ≡ y2;
  7. Il doppio di a, 2a;
  8. Il rapporto tra y1 e 2a dà la prima soluzione: x1 = y1/2a;
  9. Il rapporto tra y2 e 2a dà la seconda soluzione x2 = y2/2

Chiedo scusa per aver elencato pedissequamente le operazioni (non proprio tutte le istruzioni elementari: per es., la divisione o l’estrazione di radice sono a loro volta successioni di altre operazioni più semplici), ma ciò mi serve ad introdurre il concetto di algoritmo. Ogni sequenza come questa, non importa di quante operazioni (purché in numero limitato, altrimenti la procedura non andrebbe mai a termine) si chiama algoritmo, o software, o programma, che sono tutti sinonimi. Il termine viene da Algoritmus, il nome con cui gli scolastici medievali chiamavano il matematico persiano Al Qhowarismi (IX sec.), il quale per primo aveva trovato la procedura per risolvere quelle equazioni.

Ora, ogni programma informatico, ogni software del mondo, anche il più complesso eseguito dal computer più potente, è null’altro che un algoritmo. Al livello basico, le operazioni eseguibili da una macchina si riducono a 4 istruzioni “meccaniche”: avviarsi, andare avanti oppure indietro di un passo (aggiungere o togliere 1) e arrestarsi. La velocità di calcolo (cioè ad aggiungere o togliere 1) in un personal computer può essere di miliardi di istruzioni al secondo, mentre i grandi calcolatori ne elaborano anche migliaia di miliardi al secondo. I computer quantistici, alla cui comparsa potremmo quest’anno assistere, aumenteranno di altri ordini di grandezza la potenza computazionale, l’affidabilità e la quantità dei dati trattati…, ma le operazioni elementari elaborate saranno sempre le stesse 4: avvio, somma o sottrazione di 1, arresto. Sarà una rivoluzione?

In confronto alla macchina, dai tempi di lady Lovelace la velocità di calcolo della mente umana e la sua precisione appaiono risibili. Se aggiungiamo lo spettacolo quotidiano di guerre, terrore, intolleranze o anche, più mediocremente, di sprechi umani e ambientali, l’intelligenza umana non pare avere grandissimi motivi di orgoglio ed anzi può indurre simpatia per quelle correnti dell’Intelligenza Artificiale (IA) che preconizzano un’era prossima ventura in cui i computer ci surclasseranno anche nelle funzioni superiori della mente, dall’intuizione alla consapevolezza, condividendo ogni nostro elemento di coscienza (felicità, volontà, sensibilità estetica…). Se la mente è prodotta dal cervello e il cervello è un computer, perché i calcolatori di domani non dovrebbero dare origine ad un nuovo tipo di menti? A priori, ci sono 4 risposte possibili:

  1. (Tesi dell’IA forte) Ogni pensiero è algoritmo e la coscienza è suscitata spontaneamente da algoritmi appropriati.
  2. (Tesi dell’IA debole) La coscienza è un attributo dell’azione fisica del cervello. Un computer può simulare ogni azione del cervello con un algoritmo corrispondente, ma l’esecuzione algoritmica non può di per sé suscitare la coscienza.
  3. La coscienza è un attributo dell’azione fisica del cervello, ma questa azione non è computabile (= traducibile in algoritmo).
  4. (Tesi spiritualista) La coscienza non è un attributo fisico, ma dell’anima. I processi dell’anima non sono computabili, e nemmeno spiegabili scientificamente.

Secondo i fautori della Tesi 1, sarà possibile prima o poi produrre macchine dotate di coscienza: questa facoltà emergerà (ancora la parolina magica, evocata quando non si sa dove attaccare la fisica) appena i programmi saranno sufficientemente complessi, o autoreferenziali, o qualcos’altro. L’universo stesso sarebbe un gigantesco computer, alcune routine (cioè, sottoprogrammi) del quale esplicherebbero quelli stati di coscienza che diciamo appartenerci. Questa visione lamettriana, da homme machine, ha paradossali assonanze platoniche: se è indipendente dal supporto materiale (biologico, al silicio, alieno, ecc.), il pensiero è solo funzione di strutture d’informazione regolate da leggi matematiche. Il tipo di materia non conta. Nello stesso nostro corpo, con frequenza maggiore che nella nave di Teseo, avviene un continuo ricambio atomico: resta la configurazione immateriale che s’identifica nella coscienza. E tutte le strutture pensanti – biologiche, bioniche o aliene, indipendentemente dai loro hardware intercambiabili – avrebbero gli stessi diritti…

La Tesi 2 considera la coscienza un processo fisico computabile, quindi simulabile da un computer. Ma come la simulazione di una guerra (wargame), per quanto accurata, non è una guerra, così la simulazione del pensiero non darebbe mai consapevolezza alla macchina calcolatrice. La consapevolezza sarebbe una proprietà inscindibilmente connessa alla materia del cervello, in definitiva alle macromolecole al carbonio costituite dai suoi neuroni, alle sinapsi che li collegano e alle trasformazioni fisico-chimiche che vi accadono. Questa visione può sembrarci più dignitosa della Tesi 1, ma non è più allegra: essa preconizza un futuro in cui saremo governati da robot che ci appariranno più intelligenti e più saggi di quanto noi siamo, ma che invece sono ciechi rottami. Un mondo dominato dal look, letteralmente!

Per la Tesi 3, la coscienza sarebbe un fenomeno esclusivamente fisico, ma i suoi processi non sarebbero computabili. A differenza della Tesi 4, secondo cui l’anima è soltanto argomento della metafisica, i fautori della 3 ritengono che la coscienza umana, pur se non riconducibile ad un algoritmo, possa costituire oggetto di analisi scientifica, per esempio delle neuroscienze.

La mia convinzione, argomentata variamente in altri articoli, è che le attività superiori della mente non siano computabili: a supporto, porterò oggi due nuovi argomenti, uno riguardante l’intuizione ed uno ricavato dal Teorema di Gödel (1931). Già uno di essi confuta da solo le tesi 1 e 2 dell’IA. Lascio ai lettori la scelta tra le tesi residue 3 e 4. In entrambi i casi, ringraziando Dio, sarà risparmiata ai nostri discendenti la prospettiva di essere surclassati da automi intelligenti.

Cominciando con l’intuizione, vediamo perché non è simulabile dall’IA ed analizziamo alcune sue applicazioni. L’intuizione è il senso della visione diretta, della comprensione immediata. In quanto tale è l’opposto del software, che è risoluzione indiretta, mediata in n passi, di un problema. L’intuizione risulta per definizione non computabile; e poiché essa è una componente essenziale della mente, l’Intelligenza Artificiale dipendente dal computo non può simulare, né tantomeno suscitare la coscienza.

L’intuizione, il processo prelogico e non algoritmico della mente umana

L’intuizione è usata correntemente, sia nel ragionamento che nella creatività, ed è con la fortuna un motore delle scoperte scientifiche. È usata perfino nelle rigorosissime dimostrazioni matematiche. Prendiamo i primi n numeri dispari. Da un controllo diretto con pochi addendi, risulta che la somma è uguale al quadrato del numero dei termini:

1 = 1^2

1 + 3 = 4 = 2^2

1 + 3 + 5 = 9 = 3^2

1 + 3 + 5 + 7 = 16 = 4^2

…………………………………..

Come sapere se la regola vale per ogni numero degli addendi? Con l’intuizione! V. riquadro in alto, a sinistra, nella Figura: ci basta (immaginare di) disporre un numero dispari di pallini intorno ai dispari precedenti e… “contempliamo” la chiusura del quadrato successivo. Altre due applicazioni matematiche dell’intuizione, rappresentate nella stessa Figura, sono la proprietà commutativa della moltiplicazione e il teorema di Pitagora.

Tutta la storia della matematica conferma che l’intuizione è uno strumento di progresso e di consolidamento della disciplina. La formalizzazione algoritmica, quando c’è, viene dopo. Su ciò, un fautore dell’IA concorderebbe: a denti stretti ammetterebbe che l’intuizione è “forse”, “qualsiasi cosa s’intenda con il termine”, una facoltà creativa; che essa può essere “forse”, “anche” uno strumento utile alla scoperta di nuovi teoremi; ma aggiungerebbe che comunque la validazione di una proposizione che appaia intuitiva va integrata da un algoritmo. È davvero tutto qua?

Certamente i tre teoremi rappresentati in Figura ammettono anche una dimostrazione algoritmica. Ed è anche vero che la massima parte dei teoremi possono essere dimostrati soltanto attraverso una procedura algoritmica, talvolta molto lunga: per esempio, la dimostrazione dell’Ultimo teorema di Fermat che A. Wiles regalò al mondo nel 1994 è stata facilitata dall’ausilio dei calcolatori. Le vere questioni però sono:

  1. esistono in matematica questioni indecidibili per via algoritmica?

  2. e tra queste ce ne sono di risolubili per via intuitiva?

La domanda 1. si chiama Entscheidungsproblem e fu collocata al secondo posto da Hilbert, al Congresso Internazionale dei Matematici svoltosi a Parigi nel 1900, nella lista dei 23 principali problemi matematici (allora) aperti. La risposta verrà nel 1931 dal Teorema d’incompletezza di Gödel e sarà negativa: esistono problemi indecidibili per via algoritmica. Tra questi, nel 1963, G. Cohen individuerà proprio quello al primo posto nella lista di Hilbert. Per questo risultato, Cohen sarà premiato nel 1966 con la medaglia Fields, una specie di Nobel riservato ai giovani matematici.

Il Teorema di Gödel, presentato da un venticinquenne boemo come tesi di dottorato a Vienna nel giorno in cui un Hilbert ignaro – confidente ancora in una risposta positiva – presentava solennemente (“Noi vogliamo sapere, noi sapremo!”) a Gottinga il suo manifesto di algoritmetizzazione della matematica, fu uno schiaffo al programma formalista onnisciente del matematico tedesco. Secondo Hilbert, se un sistema matematico contiene proposizioni indecidibili vuol dire che è basato su un insieme incompleto di assiomi e, quindi, in presenza d’indecidibilità di una sua proposizione, basterà integrarla tra gli altri assiomi! Ma il teorema di Gödel nega proprio questa possibilità: ogni sistema formale che abbia la complessità minima dell’aritmetica (ossia di fatto, tutta la matematica: l’algebra, le geometrie euclidea e non, l’analisi, ecc.; nonché tutte le teorie scientifiche) è incorreggibilmente incompleto: esistono al suo interno sempre proposizioni indecidibili. E vano sarebbe l’espediente d’inglobare una proposizione indecidibile tra gli assiomi: questo non farebbe altro che allargare la teoria di altre proposizioni indecidibili… Non è insomma una questione di completezza degli assiomi, né di tempo, né di capacità di memoria, né di velocità elaborativa degli esecutori (umani o digitali o bionici): nessun esecutore potrà mai dimostrare tutte le conseguenze logiche di un set di assiomi coerenti, perché alcune non hanno algoritmo corrispondente.

L’esistenza di congetture, ossia di proposizioni che potrebbero essere vere, ma che non sono (ancora?) dimostrate, è nota da molto tempo. Una famosa è la Congettura di Goldbach (1742), secondo cui ogni numero pari maggiore di 2 è la somma di due numeri primi. Con i moderni calcolatori si è potuto verificarne la veridicità fino a qualche centinaio di miliardi, ma pochi passi in avanti sono stati fatti nella dimostrazione per tutti i numeri pari. Come il problema di Fermat risolto dopo 350 anni di tentativi, anche la Congettura di Goldbach potrebbe un giorno essere decisa; o come il primo problema della lista di Hilbert potrebbe risultare indecidibile; o anche potremmo non sapere mai se sia decidibile o no…

Non posso in un articolo divulgativo come questo riportare la dimostrazione del Teorema di Gödel, che è molto tecnica. Non mi esimerò però da citare una “chicca”, un dono accessorio del teorema d’incalcolabile pregio: la sua dimostrazione svela all’intuizione, nell’ultimo passo, una proposizione vera… indeducibile per via algoritmica! Come la tesi del teorema afferma l’esistenza di proposizioni indecidibili per algoritmo, così la sua procedura dimostrativa si chiude con la contemplazione della verità di una di quelle proposizioni per intuizione. Dunque, esistono proposizioni indecidibili da una macchina, ma decidibili dalla mente.

Il Teorema di Gödel dà un doppio schiaffo alle chimere dell’IA: col primo, sancisce la finitezza del software (e della tecnica) e col secondo supporta il giudizio di superiorità della mente umana sul robot già entro l’ambito della logica.

.

.

.

Share.

About Author

GIORGIO MASIERO: giorgio_masiero@alice.it Laureato in fisica, dopo un’attività di ricercatore e docente, ha lavorato in aziende industriali, della logistica, della finanza ed editoriali, pubbliche e private. Consigliere economico del governo negli anni ‘80, ha curato la privatizzazione dei settori delle telecomunicazioni, agro-alimentare, chimico e siderurgico, e il riassetto del settore bancario. Dal 2005 interviene presso università italiane ed estere in corsi e seminari dedicati alle nuove tecnologie ICT e Biotech.

50 commenti

  1. Prof. Masiero come sempre complimenti! Io propendo per la Tesi 2 credo una IA debole sia realizzabile con l’inevitabile appunto che la simulazione di coscienza può essere solo parziale. Ad esempio se volessi una IA per sostituire una receptionist non mi interesserebbe che la macchina simulasse ogni aspetto umano ma che mi restituisca una interfaccia in grado di funzionare discretamente nel 90% e più dei casi.

    • Giorgio Masiero on

      Grazie.
      Anch’io credo nella possibilità di un servizio automatico di reception simile a quello umano, ma “se non simulasse ogni aspetto umano”, come Lei Si accontenta, non saremmo nella Tesi 2…, dove invece si afferma che “un computer può simulare ogni azione del cervello con un algoritmo corrispondente“.

      • E’ un distinguo importante e che peraltro condivido. L’ho scelta perchè a mio avviso è la tesi che rispecchia maggiormente il vero potenziale delle IA: cioè raffinatissime bambole. Se crede possiamo dirla una IA “debolissima”. E’ interessante poi notare che questa variante debolissima può coesistere tranquillamente con le successive due tesi.

        • Giorgio Masiero on

          Le tesi 1, 2, 3 e 4 sono le quattro risposte alternative possibili alla domanda che avevo posto in testa, se la “mente”, non una specifica funzione della mente, sia riproducibile da un algoritmo. La Sua “variante debolissima”, AndreAX, rientra nella tesi 3 o 4.

  2. Fabio Vomiero on

    Grazie prof.Masiero, il suo pezzo mi trova sostanzialmente concorde. Io credo che quello dell’intelligenza artificiale sia un campo di studi sicuramente interessante ed affascinante e credo anche che, come per tutti i campi dell’esplorazione scientifica, sia praticamente impossibile stabilirne i limiti a priori. Ma credo anche che questo programma di ricerca, che sicuramente sta producendo e produrrà gadget interessanti che piacciono sempre tanto alla gente, ci condurrà prima o poi anche ad acquisire la consapevolezza generale (tra gli scienziati) del divario irriducibile che esiste comunque tra mente umana e qualsiasi macchina di Turing, anche se a livello sociale e commerciale (e quindi tecnologico) il “delirio” naturalmente continuerà, sorretto come sempre dalle illusorie leggi del mercato. Riguardo le tesi da lei esposte, pertanto, io condividerei la numero 3, è un campo di studi che spetta certamente di diritto alle neuroscienze, nonostante penso siamo ancora ben lontani dal disporre di teorie cognitive e definizioni soddisfacenti per spiegare adeguatamente il fenomeno fisico della coscienza, che comunque credo, sembri sottrarsi chiaramente da qualsiasi tentativo di analisi in termini algoritmici. Non voglio considerare la tesi numero 4, semplicemente perché, come lei ben sa, credo che l’unico modo per evitare la conflittualità infinita e autopoietica tra tra il “me scientifico” e il “me spirituale” sia quello di tenere i Magisteri ben separati.

    • Giorgio Masiero on

      Grazie, dott. Vomiero.
      “Il fenomeno fisico della coscienza”, Lei dice. In questi termini però Lei non “evita la conflittualità” con me, che – come molti neuroscienziati del resto – non considero affatto la coscienza un fenomeno fisico! Il mio Io appartiene solo a me e nessun altro osservatore vi ha accesso, così come il Suo appartiene solo a Lei, ecc., ecc.
      Se vogliamo evitare “conflittualità” e stare il termini scientifici corretti, possiamo dire solo, secondo me, che la coscienza umana è necessariamente relata ai fenomeni fisico-chimici che avvengono nel cervello, questi sì ben osservabili e misurabili. Ma correlazione non implica identità, se è vero che il senso interno dell’Io è tutt’altra cosa da un impulso elettromagnetico.

      • Fabio Vomiero on

        Nessuna conflittualità nè con lei, nè con la sensibilità di chicchessia prof.Masiero. Nessuno sà in realtà ancora che cosa sia effettivamente la coscienza, ma certamente la sua relazione mostrata con i fenomeni chimico-fisici che avvengono nel nostro cervello, come lei stesso afferma, e non soltanto il nostro, ci autorizza ad assegnare legittimamente il compito della ricerca prima di tutto alla scienza e in particolar modo alle neuroscienze e alle scienze cognitive, nonostante l’ignoranza che ancora ci avvolge. Ogni altro tipo di “spiegazione”soggettiva, filosofico-metafisica e/o teologica che sia, pur rispettandola, sinceramente a me generalmente interessa poco, ho infatti premesso la mia convinzione nella separazione dei Magisteri. Ma la coscienza comunque, a diversi livelli di espressione, appartiene indubbiamente al sistema vivente, e quindi fa parte della vita. E la vita, non è forse prima di tutto un “fenomeno fisico” evidentemente vincolato alle leggi generali che regolano i comportamenti delle materia e dell’energia, anche se altrettanto evidentemente, non riducibile soltanto a questo?

        • Giorgio Masiero on

          Pare a me invece che ci sia conflitto tra le nostre idee in questo caso, dott. Vomiero, ma non me ne preoccupo, anche questo fa parte della vita!
          Io non considero la vita umana “prima di tutto un fenomeno fisico”, ma per la presenza di un salto ontologico (come si esprime la Chiesa) rispetto alle altre forme viventi, considero la vita umana prima di tutto per i suoi aspetti mentali e spirituali. E in quanto tali fuori dall’ambito scientifico-sperimentale, ma non di altre discipline che, dal mio punto di vista (ma forse non dal Suo, ecco un altro punto di conflitto) hanno molto più valore epistemico.
          Con riferimento al corpo piuttosto, lascio alle scienze naturali (e in particolare alle neuroscienze) tutti i loro spazi.

  3. “Il fenomeno fisico della coscienza”… Vorrei capire il senso:

    a, che la coscienza produca fenomeni fisici?

    B, che coscienza sia un fenomeno fisico, ossia sia una
    proprietà della materia?

    A, così’ formulato, l’enunciato lascerebbe intendere che la
    coscienza non sia un fenomeno fisico, e però sarebbe capace di interagire col piano
    fisico; “il fantasma nella macchina”, mutuando la formulazione – ma non le
    teorie, materialistiche – di Ryle, prima, e Koestler, dopo.

    B, questo, mi pare, sarebbe il caso del cosiddetto emergentismo,
    che io trovo molto prossimo al darwinismo (fatta salva la differenza dell’oggetto),
    come linea, metodo di ricerca, e orientamento generale.

    Mente e materia, dunque. Di molto semplificando (e quindi
    chiedendo in anticipo scusa per le ellissi): per b, la mente sarebbe un
    accidente della materia, e quindi l’unica realtà sarebbe fisica (monismo fisicalista).
    Mentre, per a ci sarebbero due realtà: una, o forse molte, non materiali (lo
    sarebbe la coscienza, in ogni caso); e una, solo una, materiale. Dualismo
    ontologico; cartesiano, platonico, ecc…

    Fermo restando che ritengo inconfutabile la tesi enunciata
    dal Prof. Maisero, e quindi da questa partendo, mi pare – tuttavia, e proprio
    in forza di quella tesi – che sia a che b, per ragioni ovviamente diverse,
    pongano problemi logici insormontabili. Stando al significato comune e corrente
    di mente e materia (e io credo stia qui il bandolo della matassa)*, come può il
    “fantasma” interagire con la “macchina”? D’altro canto, come si può davvero pensare
    che – a partire da una condizione iniziale, in cui ci sarebbero stati soltanto sassi,
    gas e fulmini (sto semplificando, ovviamente, ma non inventando) – per via del
    rimescolamento continuo di sassi e gas, sotto l’azione dei fulmini, nelle ere,
    dal P-U-N-T-O Z-E-R-O di vita e coscienza, siano sorti, prima la
    vita (abiogenesi) e poi la coscienza/mente?? E’ impossibile!!! Salvo attribuire
    al tempo/mutamento un valore demiurgico e miracoloso. Per quanto sommati o moltiplicati,
    divisi, frazionati, combinati, capovolti e strofinati, gli zeri danno sempre zero.

    P.s.

    * Rimarrò in debito con chi mi fornirà la sua definizione
    dei termini “mente” e “materia”. Grazie in anticipo.

  4. Un po’ di tempo che non frequentavo Critica Scientifica, rientro e trovo uno dei testi più interessati che mi sia mai capitato di leggere.
    Una domanda da profano: l’idea di una riduzione totale della geometria a quella analitica, cartesiana per dirla in termini comuni, può essere considerato un esempio di volontà di riduzione al procedimento algoritmico negando l’autonomia dell’intuizione? mi riferisco al programma di Bourbaki, per essere più chiaro. Non so se dico assurdità, nel caso mi scuso.

    • Giorgio Masiero on

      Grazie, Klaus B.
      Bourbaki nel suo estremo rigore ha tentato una formalizzazione delle matematiche secondo il programma formalistico di Hilbert. E ciò che ha fatto prima dello scioglimento del gruppo è comunque un merito, dal mio punto di vista.
      Detto ciò, sempre dal mio punto di vista, una matematica così “meccanica” perde ogni fascino. Confrontare per credere le Fondazioni di geometria di Hilbert agli Elementi di Euclide!
      Comunque il lavoro di Bourbaki non toglie nulla al ruolo creativo e propulsorio, e nelle stesse procedure dimostrative, dell’intuizione in matematica. La sistemazione rigorosa è necessaria di regola, ma viene dopo.

      • Johnny Palomba on

        Mi permetto di intervenire su questo punto. In realtà la stessa dimostrazione di Gödel si basa sulla riduzione delle formule logiche ad enunciati aritmetici, dunque se vogliamo una meccanizzazione estrema del pensiero matematico. Fortunatamente ciò gli ha permesso di dimostrare che questa meccanizzazione ha i limiti da lei esposti. Detto ciò non me la sento di essere così critico con Hilbert, è vero che il suo programma formalistico è naufragato con Gödel, però non credo che il suo intento fosse ridurre l’intero pensiero umano a regole meccaniche, aveva in mente solo l’aspetto matematico.

        Inoltre (da matematico) trovo decisamente più appaganti i suoi Fondamenti della Geometria rispetto agli Elementi di Euclide, opera certamente inarrivabile ai tempi in cui fu composta, ma logicamente inconsistente per i nostri: ricordiamo che neppure la prima proposizione del primo libro discende logicamente dagli assiomi. Va anche detto che ricerche recenti ipotizzano che gli Elementi fossero in realtà una sorta di manuale di calcolo improntato più alla semplicità che al rigore, mentre i Fondamenti sono la prima vera assiomatizzazione moderna della geometria, quindi è anche piuttosto scontato che un’opera sia molto più ostica dell’altra, al di là degli oltre duemila anni che le separano.

        Per quanto riguarda la domanda originale di Klaus B mi sento di dire che la riduzione della geometria all’analisi (e all’algebra) è uno straordinario esempio di intuizione applicata alle scienze matematiche, il fatto che permetta una risoluzione meccanica dei problemi geometrici è solo una conseguenza della potenza dell’intuizione originale.

        • Giorgio Masiero on

          Sono d’accordo con Lei, Palomba, sulla grandezza e sul genio di Hilbert. Come pure sull’essenzialità in matematica del rigore consentito dalla formalizzazione. Mi dolgo di essere stato frainteso in ciò.
          Certo il pensiero umano non è sola matematica e neanche Hilbert forse lo riduceva a ciò, però alla matematica Hilbert voleva ridurre tutta la fisica alla matematica (e dopo di lui, è venuto un pensiero filosofico che vuole ridurre tutta la realtà alla fisica). Siamo grati a Goedel per aver dimostrato il fallimento del programma formalista.

          • Johnny Palomba on

            Aggiungerei che l’Hilbert formalista era già avanti negli anni, in gioventù fu aspramente criticato per certe sue impostazioni che apparivano eccessivamente “intuitive”. Un aneddoto racconta che quando P. Gordan lesse la sua dimostrazione del “teorema della base” ebbe a dire:”Questa non è matematica, questa è teologia!”. Al che Hilbert lo invitò a trovare un errore nella dimostrazione, o a tacere.

          • Giorgio Masiero on

            E’ tipico dell’età, Palomba, e Hilbert non fa eccezione. I giovani sono creativi, vanno fuori delle righe e così fanno scoperte; gli anziani sono metodici, mettono ordine e fanno misure. Conosce un matematico o un fisico che abbiano scoperto qualcosa dopo i 40 anni?

  5. Buona sera,
    finora, tutti i miei commenti più lunghi di poche righe, e pertanto postati con copia/incolla, sono stati cancellati. Dopo un’effimera permanenza, non appena mi disconnetto, i commenti spariscono. Vorrei chiedere a chi è più esperto, se c’è qualcosa che sbaglio, oppure se si tratta di un cieco accanimento karmico di Disqus. Nel secondo caso, ci sarebbe poco da fare; ma, quanto al primo, esiste un rimedio?
    Grazie.
    Avrei avuto piacere di porgere una domanda al Prof. Masiero e al Dott. Vomiero; chissà se ne avrò il modo?

    • Giorgio Masiero on

      Non so risponderLe, Francesco. Qualche volta Disqus ha creato problemi anche a me. Magari, col copia ed incolla, non usi testo formattato di qualche programma (come Word), ma semplice txt.

      • Grazie, Professor Masiero, vedrò di provare con txt (una volta che capirò cos’è, io uso Word, e in queste cose valgo zero). Approfitto per ringraziarla del tempo che sottrae alle Sue cose, e dedica alla divulgazione – lucidissima e mai stereotipa – del sapere scientifico, o, meglio, del punto di vista scientifico, riguardo i molti temi di grande rilevanza qui trattati. Le sono in debito per aver supportato – dal punto di vista scientifico, appunto – alcune (quasi) certezze acquisite, negli anni, da studi filosofici.

        • Giorgio Masiero on

          Se usa Windows, tra gli Accessori di Windows nella scheda dei programmi c’è Blocco note. Usi Blocco note invece di Word e avrà il testo in formato txt, da ricopiare in Disqus.

  6. Forse ho frainteso io ma non mi pare che con Le sue argomentazioni circa il teroema di Godel e l’intuizione falsifichino la Tesi 2 su IA debole. Sicuramente la Tesi 1 crolla in quanto non può la coscienza essere un algoritmo e al contempo avere la proprità dell’intuizione che ne negerebbe la premessa, ma non noto contraddizione circa la esistenza della suddetta con la possibilità di simulare al computer gran parte dei processi della coscienza fino a rendere indistinguibile la natura umana o di androide di chi ho di fronte, sembrando questi ultimi “più intelligenti e più saggi di quanto noi siamo, ma che invece sono ciechi rottami” come ha scritto Lei. Le sarei grato se mi chiarisse ciò.

    • Giorgio Masiero on

      La Tesi 2 non prevede la “possibilità di simulare al computer gran parte dei processi della coscienza”, ma ogni processo della coscienza, cioè tutti. E poiché l’intuizione non è computabile, essa è un processo non simulabile dalle macchine, che pertanto risulteranno almeno in ciò sempre distinguibili dagli umani.

      • La ringrazio per il chiarimento. Tuttavia a questo punto non capisco la differenza tra IA forte e debole, giacché se entrambi ritengono possibile simulare perfino intuito in che cosa differiscono? Lei dice che la tesi 2 afferma che la coscienza non sia replicabile da algoritmi, come ( se ho capito bene) una specie di simulatore ad esempio di aereo. Tuttavia nel caso del simulatore la differenza prarica tra questo e l’aereo è che nel caso io mi schianti a terra col primo io sopravvivo , nel secondo muoio. Qui però non capisco la differenza pratica tra simulare la coscienza, intuito compreso, o essere coscienza vera e propria al di là del supporto materiale.

        • Giorgio Masiero on

          Lei è in buona compagnia, Andrea! Anche Turing pensava (col suo “test”) che una simulazione perfetta della coscienza implicasse l’esistenza di coscienza. Io invece, come John Searle, penso che la simulazione è in linea teorica un concetto diverso dall’esistenza.
          In ogni caso, la non computabilità dell’intuizione mette le Tesi 1 e 2 sullo stesso piano di irrealizzabilità.

          • Chiaramente con le tesi da Lei esposte risulta pure a me la non realizzabilità delle prime 2 tesi. Ovviamente penso che nessuno sano di mente possa davvero volere che le macchine ci sostituiscano, ma allo stesso tempo si deve saper sostenere la propria tesi non in modo “sentimentalistico” bensì argomentato e questo Lei lo ha fatto egregiamente senza dubbio.
            Invece riguardo al mio chiarimento circa la differenza sella 1 e 2 tesi

          • Giorgio Masiero on

            Grazie a Lei.
            “Conseguenze pratiche” di differenziare la Tesi 1 dalla 2 non ce ne sono, essendo entrambe le tesi irrealizzabili. La differenziazione è solo una questione semantica.
            Quanto al fatto che “nessuno sano di mente possa davvero volere che le macchine ci sostituiscano”, La devo purtroppo smentire, Andrea. A questo mondo c’è un sacco di gente, anche nei più importanti posti di comando e nelle più influenti accademie scientifiche, che propugna proprio questo e che sta già preparando “templi” al nuovo dio. Ne abbiamo parlato qui in CS in diversi articoli.

          • Ma infatti chi ha mai detto che coloro che rivestono posizioni di comando siano sani mentali? Ora non ricordo dove lo lessi un bel po’ di tempo fa un bell’articolo circa la insanità mentale di coloro che occupano posizioni di potere ad es in USA!
            Quanto al “conseguenze prariche” temo vi sia un malinteso: mi chiedevo semplicemente i fautori di tesi 1 e/o 2 cosa sostenessero vi fosse di diverso tra la propria e l’altra in temini appunto di conseguenze immaginabili. Più che altro per una mia “perversione intellettualistica”. Dovrei fare un lungo discorso che non penso mia stia qui su cosa intendo per conseguenze pratiche: Le basti sapere che io sono d’accordo con le tesi filosofiche espresse da William James nella raccolta di conferenze intitolata “pragmatismo” se Le può interessare. Cmq le rinnovo i ringraziamenti e aspetto suoi prossimi articoli.

  7. Più o meno, il mio post scomparso era questo.
    “Il fenomeno fisico della coscienza” … scrive il Dott. Vomiero. Vorrei essere certo di capirne il significato:
    a, che la coscienza produca fenomeni fisici, agendo sulla mera materia?
    B, che la coscienza sia un fenomeno fisico, ossia sia una proprietà della materia?
    A, così’ formulata, la frase lascerebbe intendere che la coscienza non sia un fenomeno fisico, e però sarebbe capace di interagire col piano fisico; “il fantasma nella macchina”(mutuando la formulazione – ma non le teorie, materialistiche – di Ryle, prima, e Koestler, dopo).
    B, questo, mi pare, sarebbe il caso del cosiddetto emergentismo, che io trovo molto prossimo al darwinismo (fatta salva la differenza dell’oggetto), come linea, metodo di ricerca, e orientamento generale.
    Mente e materia, dunque. Di molto semplificando (e quindi chiedendo in anticipo scusa per le ellissi): per B, la mente sarebbe un accidente della materia, che “emergerebbe” oltre un certo grado di organizzazione e complessità; e quindi l’unica realtà sarebbe fisica (monismo fisicalista). Mentre, per A, ci sarebbero due realtà: una, o forse molte, non materiali (lo sarebbe la coscienza, in ogni caso); e una, solo una, materiale. Dualismo ontologico; cartesiano, platonico, ecc…
    Fermo restando che ritengo inconfutabile la tesi enunciata dal Prof. Maisero, e quindi da questa partendo, mi pare – tuttavia, e proprio in forza di quella tesi – che sia A che B, per ragioni ovviamente diverse, pongano problemi logici insormontabili. Stando al significato comune e corrente di mente e materia (e io credo stia qui il bandolo della matassa)*, come può, caso A, il “fantasma” interagire con la “macchina”? D’altro canto, come si può davvero pensare che – a partire da una condizione iniziale, in cui ci sarebbero stati soltanto sassi, gas, brodaglia inerte, e fulmini (sto semplificando, ovviamente, ma non inventando) – per via del rimescolamento continuo di sassi, gas, e inerte brodaglia, sotto l’azione dei fulmini, nelle ere, dal P-U-N-T-O Z-E-R-O di vita e coscienza, siano sorti, prima la vita (abiogenesi) e poi la coscienza/mente?? Appare impossibile!!! Salvo attribuire al tempo/mutamento un valore demiurgico e miracoloso. Per quanto sommati o moltiplicati, divisi, frazionati, combinati, capovolti e strofinati, insomma, gli zeri, non preceduti da qualcosa di diverso da zero, danno sempre zero.
    P.s.
    * Rimarrò in debito con chi mi fornirà la sua definizione dei termini “mente” e “materia”. Grazie in anticipo

  8. Simon de Cyrène on

    Ottimo questo articolo caro Giorgio: grazie per compartirlo con noi tutti.

    Per cominciare risponderò alla tua domanda circa le quatro tesi: (a) il fenomeno della coscienza della propria coscienza è sperimentabile solo per sé stessi e non è qundi oggetto di scienza; (b) non è un fenomeno misurabile da instrumenti, ma solo constatato dalla …. coscienza stessa che ne è il solo strumento; (c) l’oggetto di questo fenomeno è la coscienza stessa, la quale è data dallo stesso soggetto, cioè abbiamo un effetto che precede la causa, il che è la definizione stessa della non materialità del soggetto e oggetto in questione che sono un tutt’uno semplice, dove non si distingue la causa dall’effetto, sebbene siano reali. Quindi solo è possibile la Tesi 4.

    Chi immagina che la coscienza di sé possa essere un fenomeno “emergente” materiale / algoritmico che ci fornisca almeno uno schema di principio dove una causa sia orginata dal proprio effetto…

    Rispetto al test di Turing, ricordiamoci (a) che Turing era molto cosciente delle situazioni di indecidibilità gödeliana delle sue macchine e del loro potenziare fallire, (b) l’imitazione di un comportamento umano non è comportamento umano, (c) dedurre l’umanità (o coscienza di sé) da quel che ne dice un ente ( robot, alien, bonobo) su di sé non cosituisce una prova.

    Personalmene ricercherei l’umanità non nella riuscita di tests di simulazione di comportamenti umani (test di Turing) ma nel paragonare gli errori commessi: gli errori umani sono fondamentalmente differenti dagli errori algorimici.

    Anche l’intuizione potrebbe essere interpretata come calcolo euristico implicito: ma gli errori compiuti dall’intuizione prettamente umana hanno una colorazione differente da quelli commessi da algoritmica con basi matematiche o euristiche. Colorazione che ci permette di distinguere tra errore “tecnico” e eroroe “umano”, ad esempio negli incidenti aerei dove procedure e umanità sono intrinsecamente correlate.

    Ancora grazie.

    • Giorgio Masiero on

      Grazie a te, Simon, soprattutto per le ulteriori significative integrazioni.

  9. A tutti i lettori se piace l’argomento consiglio la lettura del brevissimo racconto di Isaac Asimov L’ULTIMA DOMANDA; a suo tempo trovai davvero godibile l’acume con cui tratta l’argomento oggetto dell’articolo. La storia scivola da una tesi nell’altra tratteggiando a cavallo di secoli ed eoni un tempo circolare, l’autore riedifica un nuovo un paganesimo fantascientifico

  10. Uno spunto di riflessione: algoritmi non deterministici. Le moderne intelligenze artificiali (e.g. IBM Watson) sono probabilistiche, non totalmente deterministiche, integrano nel risultato una stima della certezza della loro risposta, di fatto andando oltre i limiti esposti qui, e accademicamente ampiamente noti.

    La completa non-determinatezza non è algoritmica (c’è da chiedersi in effetti se l’intuizione umana sia completamente non-deterministica) e le moderne AI di fatto capitalizzano sulla conoscenza degli esiti di predenti esperienze, senza necessariamente formalizzarle completamente, un po’ come facciamo noi umani.

    Sono d’accordo con Simon che un confronto tra macchina e umano non è fondamentalmente possibile perchè si confrontano due cose che si comprendono a livelli molto diversi. Se un umano non si comprende, non si può confrontare con altro che si comprende meglio a meno di mettere il secondo sistema in uno stato di “incomprensione” analogo (da qui il test di Turing, in cui il giudice non sa in anticipo de di macchina si tratta).

    Tra i punti importanti in futuro, come lo è stato per il lavoro manuale, sarà non tanto se la macchina può sostituire tutti i lavoratori, ma quanti possono essere superati dalla macchina. Le conseguenze sono primariamente economiche e la velocità con cui i cambiamenti avvengono cresce più che linearmente: non c’è più molto tempo.

    Un altro spunto è il fatto che macchine e uomini non dovrebbero darsi “schiaffi” ma pacche sulle spalle. Infatti se è vero che un computer modesto oggi batte facilmente il campione mondiale a scacchi, un giocatore di scacchi modesto aiutato da un computer batte il predetto computer. E un giocatore ancor più modesto con due computer batte il migliore giocatore con un computer solo.

    • Giorgio Masiero on

      Non ho mai parlato qui, Nando, di “determinismo” dell’algoritmo. Fin dal suo nascere, esso contiene istruzioni del tipo if… then… else, che può avere esiti diversi in funzione di probabilità contingenti o di liberi e del tutto imprevedibili input dell’utente.
      Quanto agli “schiaffi” sono d’accordo con Lei, non vanno dati alle macchine. Io li ho dati alle “chimere” dell’IA, che costruiscono templi nella Silicon Valley e mandano messaggi transumanistici, persino dalle riviste scientifiche.

      • I teoremi da lei esposti e le valutazioni sulla decidibilità sono validi di fronte ad algoritmi deterministici. I teoremi dal lei esposti, per quanto interessanti, sono più materia per una introduzione alla calcolabilità e alla complessità, ma non molto attuali rispetto al concetto moderno di AI.
        La rimando a questo testo, del 1995 (molto vecchio rispetto ai progressi del settore) “Gödel’s Incompleteness Theorem is Not an Obstacle to Artificial Intelligence” di Jeff Makey del San Diego Supercomputer Center: https://www.sdsc.edu/~jeff/Godel_vs_AI.html

        A questo punto mi è poco chiaro a cosa si riferisca quando parla di chimere dell’AI.

        • Giorgio Masiero on

          Anche da questo commento, come il primo, appare che Lei, Nando, ha letto molto velocemente il mio articolo. Io non ho scritto da nessuna parte che il teorema di Goedel sia un ostacolo all’IA, ma soltanto che dimostra l’esistenza di proposizioni indecidibili per via algoritmica.
          Che la mente umana non sia riducibile all’IA l’ho invece dedotto dalla facoltà umana dell’intuizione che, per definizione, non è algoritmica e quindi fuori della presa dell’IA.
          Chimere sono le Tesi 1 e 2, di chi pensa di far emergere, o di simulare in modo perfetto, l’autocoscienza in una macchina.
          PS. Che ci siano articoli “chimerici” su riviste peer per view contrari alla mia tesi, Glielo avevo anticipato. Ma l’articolo che Lei mi propone fa un errore grossolano, di far coincidere l’intelligenza con l’algoritmo!

          • Ora mi è più chiaro cosa lei intende per chimere dell’AI, ma ribadisco che non c’è nesso necessario tra AI e algoritmi, poichè ci sono anche algoritmi non necessariamente consistenti e questa resta AI. Il nesso con Godel quindi non è utile a dirimere la questione chimerica delle AI, perchè il teorema non vi si applica. Legga il link che le ho indicato e mi dica cosa ne pensa, credo sia molto più esaustivo di quanto io non possa essere con il tempo limitato che ho.

          • Giorgio Masiero on

            “Algoritmi non necessariamente consistenti”?!
            A parte l’aggettivo, Le ho già spiegato che può lasciar perdere Goedel. Esso mi è servito solo a mostrare la finitezza delle procedure algoritmiche, non l’irriducibilità della mente all’IA. Questa si deduce dalla presenza dell’intuizione.

          • Per il virgolettato che la stupisce, legga l’articolo che le ho indicato. Da esso (e pure da molti altri contributi degli ultimi decenni) capirà anche come Gödel in fondo centri poco con la AI.

          • Giorgio Masiero on

            Così non ci capiamo. Esattamente, tra virgolette, quale frase del mio articolo mi contesta, Nando, in cui collegherei Gödel all’AI?

          • Giorgio, ha letto il titolo del suo articolo?

            Poi la polemica non mi interessa. Se lei mi dice che è d’accordo con il testo che le ho proposto via link, non occorre che discutiamo ulteriormente.

          • Gentile Professore,
            non riuscendo a superare l’ostacolo della cancellazione dei miei commenti argomentati da parte di Disqus, provo a farle una semplice domanda. Mi scuso in anticipo se non potrò rispondere ad una sua eventuale risposta. Lei scrive che, nella quarta tesi, la coscienza non è un attributo fisico, ma dell’anima. L’uso del termine “anima” non mi torna. Di molto sempificando: presso tutte le Tradizioni e filosofie spirituali d’Oriente e Occidente, la coscienza è (uso la terminologia di matrice greca) un attributo – o, meglio, un riflesso sul piano umano – dell’Intelletto/Nous, e non dell’anima/psiche.
            Nella speranza che anche questo post non venga cancellato, la ringrazio in anticipo per una sua risposta.

          • Giorgio Masiero on

            E’ fine la Sua osservazione, Francesco. Le rispondo così: ho usato la parola anima, non con particolare rispetto del linguaggio filosofico, ma nel linguaggio comune della tradizione cattolica, per intendere tutta quella componente spirituale dell’uomo, che comprende anche le facoltà intellettuali. Veda per es. un mio recente articolo sulla conferenza a Milano del card. Ruini.
            Grazie della precisazione.

          • Naturalmente, avevo inteso che – una persona come Lei, così attenta al linguaggio, dato il contesto – avesse semplificato. Mi sono permesso il rilievo, per via del fatto che la confusione tra Pneuma e Psiche è purtroppo piuttosto frequente, persino nella grande letteratura teologica, e financo, a tratti, nel grandissimo Tommaso (nei confronti del quale, nutro una considerazione forse pari alla Sua). Nondiméno, ciò che sottrae la coscienza umana – e, per partecipazione indiretta, quella periferica degli animali superiori – al mondo fenomenico, facendone una singolarità che trascende la polarità soggetto/oggetto, è il suo appartenere all’ordine oltre e soprannaturale del Pneuma. Come molto correttamente Lei ha mostrato, essa, la coscienza, non è computabile, e questo consegue dal fatto che, a priori, essa non è oggettivabile. Essa è il “campo” in cui (per usare, molto riduttivamente, il simbolisno spaziale) si manifestano le determinazioni, correlate, poi, dalla logica, dalla ratio/dianoia, che senza la “Luce” dell’Intelletto è e sempre sarà meno che cieca.
            Grazie della Sua attenzione, Professore.

          • E’ stupefacente (l’atto del) comprendere, ed è consolatorio essere compresi. Pertanto, La ringrazio di rimando, e approfitto della Sua disponibilità per farle una domanda (estesa a chiunque abbia piacere di rispondere). Nella mia riflessione – che spero di poter condividere, una volta risolti, se mai lo saranno, i problemi con Disqus – sono arrivato alla conclusione che, almeno in una certa misura, i dibattiti sorti attorno al nostro attuale tema, sorgono dalla definizione dei due termini cardine “coscienza” e “materia”. Pertanto, vorrei chiederle una definizione di entrambi. Per il secondo, credo che un accordo lo si possa trovare anche coi fisicalisti puri; ma, per il primo, c’è una difficoltà che si mette subito di traverso: posso definire la coscienza solo (per tramite del linguaggio e della ratio, che comunque restano MEZZI) la coscienza stessa. Un po’ come le mani di Escher, che si auto-disegnano. Insomma, graficamente, l’illusione viene fatta passare per reale, ma logicamente?
            Oltre a questo, se tutto ciò che possiamo affermare della coscienza è apofatico, non predicabile, giacché essa precede lessico e grammatica, come facciamo a parlarne? Di sicuro, sappiamo che non è soggetta a estensione, che non può essere qualificata, perché gli attributi sono proprietà di classi di enti, ed essa non è ente tra enti. Essa definisce, anzi, in virtù di essa è possibile definire, ma non può essere definita, mi pare…

    • Gli algoritmi che usano la probabilità sono assolutamente deterministici, in quanto il computer che li esegue è deterministico. Quello che possiamo chiederci è in effetti se una macchina di turing non deterministica sia in grado di generare un linguaggio più complesso di una macchina di turing deterministica, ma sembra di no, anzi è dimostrabile che le macchine di turing non-deterministiche siano equivalenti a quelle deterministiche.

      • Non userei l’avverbio “assolutamente” perchè altrimenti le mdt non deterministiche non sarebbero tali, ma capisco il suo commento. Basta salvare il “seed”, ovvero il codice usato per generare il numero pseudo-casuale. Credo dipenda dalla definizione di sistema non deterministico (non necessariamente una macchina di Turing). Se possiamo simulare la mdt probabilistica (una versione della non deterministica) con tante mdt deterministiche la questione è lapalissiana.

  11. Mi accodo anche io ai ringraziamenti e così dico grazie a Masiero per questo articolo che offre davvero parecchi spunti di riflessione. Siccome, però, temo che a breve i commenti si chiuderanno, porterò l’attenzione solamente su un aspetto che trovo abbia davvero del paradossale (o almeno così mi pare) e che è il seguente.

    Premessa: le basi del programma di ricerca della cd “AI forte” sono state gettate dal funzionalismo che ha i suoi capisaldi

    1) nell’idea della simulabilità aritificiale del comportamento umano intelligente e

    2) nell’idea dell’isomorfismo tra il calcolo logico operato dal cervello umano nel mentre di un comportamento intelligente e il calcolo formale in simboli eseguito da una macchina capace di simulare tale comportamento

    rivelandosi così una teoria intrinsecamente e doppiamente monista e perché nega l’aspetto immateriale dell’intelligenza e perché nega l’esistenza di intelligenze individuali capaci di pensare e agire liberamente (negando così la stessa nozione di persona, il perché lo accennavo in un intervento di qualche tempo fa, questo: http://www.enzopennetta.it/2016/01/il-libero-arbitrio/#comment-3109614768)

    Ora, però, come non notare che c’è un’altra idea che sta nel background di tutto il discorso portato avanti da chi sostiene che una macchina possa avere una mente vera e propria, ossia l’idea che la mente è qualcosa che va oltre il mondo biologico, separabile da esso, che non può esser trattata come il prodotto esclusivo dei suoi processi (biologici) e questo proprio perché si ritiene possa essere istanziata anche da un artefatto. Ma allora, stando così le cose e ammesso che io veda giusto, qui sta il paradosso: la mente sarebbe un che di puramente formale, di formalmente specificabile e che in quanto tale è sì istanziata in ciò che è fisico, ma è ad esso non riducibile.

    Dualismo di ritorno?

    • Giorgio Masiero on

      Grazie, viaNegativa.
      La Tesi dell’IA forte è necessariamente dualistica. E’ un altro paradosso del materialismo nichilista moderno. Non so se i suoi fautori se ne rendono conto. Probabilmente, in maggioranza, no.

      • Già, lo è. Ma in quanto tale io mi sentirei di affermare che – a differenza o a precisazione di quanto ha scritto lei nell’articolo, dipende da ciò che intendeva di preciso – per la AI forte il pensiero non è, o meglio non può essere, «solo funzione di strutture d’informazione regolate da leggi matematiche» sebbene è proprio ciò che, in altra sede, vorrebbero sostenere!

        Se a chi legge ciò non viene il mal di testa probabilmente è perché non ha realizzato l’assurdità della faccenda…

  12. Armando Serafino on

    Mi pare che sia in questo contesto applicabile i seguente

    Fraintendimento sul teorema di incompletezza di Gödel (da Wikipedia)

    L’ampia discussione suscitata dal primo teorema di incompletezza di Gödel ha anche prodotto numerosi fraintendimenti. In questa sezione vengono chiarificate le più comuni interpretazioni erronee:

    (1) Il teorema si applica solamente a quei sistemi che consentono di definire i numeri naturali come un insieme. Non è sufficiente che il sistema contenga i numeri naturali. È anche necessario che, utilizzando gli assiomi del sistema e la logica del primo ordine, si possa esprimere il concetto “x è un numero naturale”. Esistono numerosi sistemi che contengono i numeri naturali e che sono completi. Ad esempio sia i numeri reali che i numeri complessi hanno assiomatizzazioni complete.