“What counts is, above all, to understand”

I caught wind of some of the examples of GPT-3 answering PhD-exam-style questions plausibly. It seems to me an elegant if indirect proof that Wikipedia entries on many topics are written by current or former graduate students, or people with an excellent ability to imitate them. But it also called to mind the famous arithmetic scene in Eugène Ionesco’s La leçon, which I am sure I am not the first to think of in connection with today’s debates over “stochastic parrots.”

The pupil has just proven unable to subtract one from two in spite of the professor’s explanations, demonstrations, and harangues:

LE PROFESSEUR.

Écoutez-moi, Mademoiselle, si vous n’arrivez pas à comprendre profondément ces principes, ces archétypes arithmétiques, vous n’arriverez jamais à faire correctement un travail de polytechnicien. Encore moins ne pourra-t-on vous charger d’un cours à l’École polytechnique… ni à la maternelle supérieure. Je reconnais que ce n’est pas facile, c’est très, très abstrait… évidemment… mais comment pourriez-vous arriver, avant d’avoir bien approfondi les éléments premiers, à calculer mentalement combien font, et ceci est la moindre des choses pour un ingénieur moyen — combien font, par exemple, trois milliards sept cent cinquante-cinq millions neuf cent quatre-vingt-dix-huit mille deux cent cinquante et un, multiplié par cinq milliards cent soixante-deux millions trois cent trois mille cinq cent huit ?

L’ÉLÈVE, très vite.

Ça fait dix-neuf quintillions trois cent quatre-vingt-dix quadrillions deux trillions huit cent quarante-quatre milliards deux cent dix-neuf millions cent soixante-quatre mille cinq cent huit…

LE PROFESSEUR, étonné.

Non. Je ne pense pas. Ça doit faire dix-neuf quintillions trois cent quatre-vingt-dix quadrillions deux trillions huit cent quarante-quatre milliards deux cent dix-neuf millions cent soixante-quatre mille cinq cent neuf…

L’ÉLÈVE.

… Non… cinq cent huit…

LE PROFESSEUR, de plus en plus étonné, calcule mentalement.

Oui… Vous avez raison… le produit est bien… (il bredouille inintelligiblement). … quintillions, quadrillions, trillions, milliards, millions… (Distinctement.) … cent soixante-quatre mille cinq cent huit… (Stupéfait.) Mais comment le savez-vous, si vous ne connaissez pas les principes du raisonnement arithmétique ?

L’ÉLÈVE.

C’est simple. Ne pouvant me fier à mon raisonnement, j’ai appris par coeur tous les résultats possibles de toutes les multiplications possibles.

LE PROFESSEUR.

C’est assez fort… Pourtant, vous me permettrez de vous avouer que cela ne me satisfait pas, Mademoiselle, et je ne vous féliciterai pas : en mathématiques et en arithmétique tout spécialement, ce qui compte — car en arithmétique il faut toujours compter — ce qui compte, c’est surtout de comprendre…¹

The moral of the story is too obvious to need stating.