Copybots: symbolic reference out of nowhere

Susan Blackmore 1999: The Meme Machine

pt 1 & pt 2 & pt 4 & scribd.com
S. 172 f.) Das heißt, Vokalisation ist ein guter Kandidat, um die Verbreitungsrate zu erhöhen und damit den Kampf um den Titel des besseren Replikators zu gewinnen. Wie ließe sich die Wiedergabetreue der akustischen Kopien steigern? Eine naheliegende Strategie besteht darin, die Laute zu digitalisieren. Wie wir gesehen haben, ist digitales Kopieren weitaus präziser als analoges, und Gene haben sich sicherlich die "Werde digital!"-Strategie zu eigen gemacht. Ich vermute, dass Sprache dasselbe getan hat.
Durch Bildung separater Wörter anstelle eines Lautkontinuums wird der Kopierprozess präziser.

p. 120) This means that vocalisation is a good candidate for increasing fecundity and thereby winning the battle to become the better replicator. How, then, could the fidelity of the copies of the sounds be increased? One obvious strategy is to make the sounds digital. As we have seen, digital copying is far more accurate than analogue, and genes have certainly adopted the "get digital" strategy. I suggest that language has done the same.
By making discrete words instead of a continuum of sound, copying becomes more accurate.


S. 174-180)
Ich habe das Aufkommen von Wörtern als Digitalisierungsprozess beschrieben. Das wahre Problem, die Ursprünge von Sprache zu verstehen, sind jedoch nicht so sehr die Wörter, die sich zumindest im Prinzip durch einfaches assoziatives Lernen erlernen lassen, sondern die Grammatik. Grammatik verbessert jedoch ebenfalls die Replikation. Wie viel lässt sich mit einer vorgegebenen Anzahl an Wörtern äußern? Nicht sehr viel, es sei denn, man verfügt über eine Möglichkeit, verschiedene Inhalte auszudrücken, wenn man die Wörter auf verschiedene Weise kombiniert. Durch Voranstellen bzw. Anhängen von Präfixen und Suffixen, durch Wortbeugung und Festlegen der Satzstellung ließe sich die Anzahl der möglichen Äußerungen, die produziert und kopiert werden könnten, deutlich vermehren.
In diesem Sinne kann man Grammatik als neue Möglichkeit zur Erhöhung der "Fruchtbarkeit" (Verbreitungsrate) und der Wiedergabetreue ansehen. Je präziser die Kopien ausfallen, desto effizienter werden sie sein. Und wenn immer mehr Dinge gesagt werden können, können immer mehr Meme geschaffen werden, die den Prozess weiter vorantreiben.
Denken Sie daran, dass alles, was hier vorgeht, Selektion ist, ohne dass es einer bewussten Vorausschau oder eines geplanten Entwurfs seitens der Meme selbst oder der Menschen bedürfte, die sie kopieren. Wir müssen uns lediglich Personengruppen vorstellen, die alle dazu neigen, einander zu kopieren, und sie kopieren einige Laute häufiger als andere. Ob ein bestimmter Laut nun kopiert wird, weil er leicht zu erinnern oder leicht zu produzieren ist, ein angenehmes Gefühl vermittelt oder nützliche Information liefert, spielt dabei weniger eine Rolle als das allgemeine Prinzip: Wenn eine Menge Laute darum konkurrieren, kopiert zu werden, dann werden diejenigen die erfolgreichen sein, die sich durch hohe Wiedergabetreue, hohe Fruchtbarkeit und Langlebigkeit auszeichnen.
Das ist der Selektionsdruck, der die grammatikalische Sprache geschaffen hat.
Die Entwicklung von Sprache war daher ein Evolutionsprozess wie jeder andere und schuf scheinbar aus dem Nichts eine komplexe Struktur. Die frühen Produkte des menschlichen Lautkopierens veränderten die Umwelt der memetischen Selektion, so dass komplexere Laute eine Nische finden konnten. Genauso wie vielzellige Organismen erst entstehen konnten, als Einzeller bereits häufig waren. Genauso wie Tiere erst entstehen konnten, als Pflanzen bereits Sauerstoff produzierten. Genauso wie große Räuber erst entstehen konnten, als es genügend kleinere Pflanzenfresser gab. Genauso konnten komplexe Äußerungen mit grammatikalischen Strukturen erst entstehen, als simplere bereits häufig waren. Demnach wäre eine Sprache mit vielen Wörtern und gut definierten Strukturen das natürliche Resultat der memetischen Selektion.

Der nächste Schritt besteht darin zu verstehen, wie die Sprache das menschliche Gehirn und den Stimmapparat in den Dienst ihrer eigenen Verbreitung stellen konnte. Das ist wieder Mem-Gen-Koevolution und funktioniert etwa so: Ich nehme an, dass Leute sowohl diejenigen mit den besten Memen – in diesem Fall der besten Sprache – bevorzugt kopieren, als sich auch bevorzugt mit ihnen paaren. Diese Leute geben dann genetisch weiter, was auch immer ihr Gehirn in die Lage versetzt, diese besonders erfolgreichen Laute besonders gut zu kopieren. Auf diese Weise verbesserte das Gehirn ständig seine Fähigkeiten, genau diese Laute zu produzieren.
Grammatikalische Sprache ist nicht das direkte Ergebnis irgendeiner biologischen Notwendigkeit, sondern eine Folge der Art und Weise, in der Meme die Umwelt der genetischen Selektion veränderten, indem sie ihre eigene Wiedergabetreue, Fruchtbarkeit und Langlebigkeit erhöhten.
Beachten Sie, dass dieser ganze Prozess selbsterhaltend ist. Sobald die Sprachentwicklung einmal begonnen hat, werden sich sowohl die Sprache selbst als auch das Gehirn, das sie produziert, unter dem gemeinsamen Druck der memetischen und der genetischen Selektion weiterentwickeln. Das ist nicht die einzige Theorie, die Sprache als "ihren eigenen primären Antrieb" oder als selbsterhaltenden Prozess betrachtet, aber andere Theorien haben Schwierigkeiten zu erklären, wie alles angefangen hat oder warum es so und nicht anders ist. So musste Deacon z.B. einen Grund finden, warum die "symbolische Schwelle" überhaupt überschritten wurde. Bei der memetischen Theorie des Sprachursprungs tritt dieses Problem nicht auf. Der kritische Schritt war der Beginn der Imitation, und es ist keineswegs rätselhaft, warum die natürliche Selektion Imitation gefördert haben sollte. Es ist ein naheliegender, wenn auch schwer zu findender "guter Trick" und dazu einer, dessen Auftreten bei einer Art, die bereits über ein gutes Gedächtnis und Fertigkeiten zum Problemlösen, gegenseitigen Altruismus, Machiavellische Intelligenz und ein komplexes Sozialverhalten verfügt, besonders wahrscheinlich ist. Einmal gefunden, setzte er die Evolution eines neuen Replikators und dessen Koevolution mit dem alten in Gang.
[...] Ich vermutet, dass die gesprochene Sprache eine fast unausweichliche Konsequenz der memetischen Selektion ist. Erstens sind Laute gute Kandidaten für eine sehr fruchtbare Weitergabe von Verhalten. Zweitens sind Worte eine naheliegende Möglichkeit, den Prozess zu digitalisieren und so seine Wiedergabetreue zu erhöhen. Drittens ist Grammatik ein Folgeschritt, um Wiedergabetreue und Verbreitungsrate nochmals zu erhöhen, und all das hilft sich zu erinnern und fördert damit die Langlebigkeit von Memen. Als der zweite Replikator erst einmal entstanden war, ergab sich Sprache mehr oder minder zwangsläufig.

[...] Die Mem-Gen-Koevolution geht davon aus, dass sich die Menschen bevorzugt mit den besten Memverbreitern gepaart haben, in diesem Fall mit denen, die sich am besten ausdrücken konnten. Wir sollten daran denken, dass die vorangegangene Selektion auf "gute Redner" hin den größten Teil der ursprünglichen Variationsmasse aufgebraucht haben könnte, so dass sich die meisten von uns "Übriggebliebenen" heute recht gut ausdrücken können. Die ursprüngliche Bevorzugung guter Redner existiert jedoch vielleicht noch immer, so dass große Beredsamkeit eine Person sexuell attraktiv macht. Der Erfolg von Liebesgedichten und Liebesliedern spricht dafür, ebenso das Sexualverhalten von Politikern, Schriftstellern und Fernsehstars. (Miller 1993)
Wenn die Theorie richtig ist, dann sollte sich an unserer Grammatik ablesen lassen, dass sie dazu entworfen wurde, Meme mit hoher Fruchtbarkeit, Wiedergabetreue und Langlebigkeit weiterzugeben, statt Information über ein bestimmtes Thema zu übermitteln, wie Jagd, Nahrungssuche oder die symbolische Repräsentation sozialer Kontrakte. Das ist das memetische Äquivalent zum adaptionistischen Denken in der Biologie, und man könnte mich für die Annahme kritisieren, die memetische Evolution müsse immer die beste Lösung gefunden haben und das Ganze als eine Art Zirkelschluss bezeichnen. Doch adaptionistisches Denken ist in der Biologie bisher außerordentlich erfolgreich gewesen, und das könnte analog auch für die Memetik gelten. [...]
Wright (1998) hat sich der Memetik bedient, um die Übertragung chemischer Begriffe wie "Säure", "Alkohol" oder die Namen verschiedener Elemente ins Chinesische zu untersuchen, und gezeigt, dass alternative Begriffe einen intensiven Konkurrenzkampf ums Überleben durchliefen. Der Ausgang des Wettstreits hing sowohl von Eigenschaften der Begriffe selbst als auch von den zu diesem Zeitpunkt bereits existierenden Memprodukten ab. [...]
Und schließlich sollten wir voraussagen können, wie künstliche Sprachen entstehen. Es hat viele Versuche gegeben, Roboter oder virtuelle Roboter zum Sprechen zu bringen. Gewöhnlich beginnt man damit, den künstlichen Systemen eine Menge über natürliche Sprache beizubringen, oder man bringt sie dazu, zwischen Lauten und Objekten Assoziationen herzustellen.
Die Theorie, die ich vorgeschlagen habe, legt einen völlig anderen Ansatz nahe, der ohne Vorwissen über irgendeine bereits existierende Sprache und ohne das Konzept der symbolischen Referenz auskommt.
Stellen wir uns eine Gruppe einfacher Roboter vor, die in einer relativ interessanten und sich verändernden Umwelt herumspazieren. Wie können sie Kopiboter nennen. Jeder Kopiboter verfügt über ein sensorisches System, über ein weiteres System, mit dem er verschiedene Laute hervorbringen kann (vielleicht in Abhängigkeit von seiner Position im Raum oder von irgendeinem Aspekt seines sensorischen Inputs) und über einen Gedächtnisspeicher für die Laute, die er hört. Und, was am wichtigsten ist, er kann die Laute, die er hört, imitieren, wenn auch nicht perfekt. Nun stellen Sie sich vor, dass alle Roboter beginnen, quietschend und piepsend herumzuwandern, um das Gequietsche und Gepiepse der anderen zu kopieren.
Die Umwelt wird sich bald mit Geräuschen füllen, und die Kopiboter werden nicht in der Lage sein, jeden Laut, den sie hören, zu kopieren. Je nachdem, wie ihr Wahrnehmungs- und ihr Imitationssystem arbeiten, werden sie zwangsläufig einige Laute ignorieren und andere imitieren. Damit ist alles zum Start des Evolutionsalgorithmus bereit, denn es gibt Vererbung, Variation und Selektion, und die Laute (oder die gespeicherten Anweisungen zur Produktion dieser Laute) sind der Replikator.

Was wird nun passieren?
Wird es nur zu einer fürchterlichen Kakophonie kommen oder wird sich etwas Interessantes ergeben?
Wenn meine Theorie richtig ist, dann weisen einige Laute eine höhere Wiedergabetreue, höhere Fruchtbarkeit und größere Langlebigkeit auf (abhängig von den Merkmalen der Kopiboter). Diese sollten immer genauer kopiert werden, und schließlich müssten Muster aufzutauchen beginnen. Einige Laute würden in Abhängigkeit von Umweltereignissen und Position der Kopiboter häufiger auftreten als andere. Ich denke, so etwas könnte man Sprache nennen. Wenn das der Fall ist, dann wäre es etwas anderes als jede Sprache, die zur Zeit von irgendeinem natürlichen oder künstlichen System benutzt wird.
Sollte ein derartiges Experiment funktionieren, würden sich daraus interessante Fragen ergeben.
Kommunizieren die Kopiboter tatsächliche miteinander? Reden sie über irgendetwas?
Wenn das so wäre, dann wäre aus dem einfachen Ausstatten der Roboter mit der Fähigkeit zur Imitation symbolische Referenz entstanden. Mit anderen Worten, die Fähigkeit zur Imitation ist fundamental, nicht die Fähigkeit zur symbolischen Referenz. Das ist genau das, was ich erwarten würde. Die entscheidende Frage ist: Könnten wir die Kopiboter jemals verstehen?

p. 121-125)
I have described the appearance of words as a process of digitising. The real problem for understanding language origins is not so much the words, which at least in principle can be learned by simple associative learning, but the grammar. However, grammar also improves replication. How many things can you say with a given set of words? Not very many, unless you have some way of specifying different meanings if you combine the words in different ways. Adding prefixes and suffixes, inflecting them in different ways, and specifying word, order would all increase the number of possible separate utterances that could be produced and copied. In this sense, grammar might be seen as a new way of increasing fecundity as well as fidelity. The more precisely the copies are made, the more effective they will be. Then, as more and more possible things can be said, more memes can be created to continue driving the process.
Remember that all that is going on here is selection, with no need for conscious foresight or deliberate design on the part of either the memes themselves or the people who are copying them. We need only imagine groups of people who all tend to copy each other, and they copy some sounds more than others. Whether a particular sound is copied because it is easy to remember, easy to produce, conveys a pleasant emotion, or provides useful information, does not matter as much as the general principle, that when lots of sounds are in competition to get copied, the successful ones will be those of high fidelity, high fecundity, and longevity.
This is the selection pressure that produced grammatical language.
The development of language was thus an evolutionary process like any other, creating complex design apparently out of nowhere. The early products of human sound copying changed the environment of memetic selection so that more complex sounds could find a niche. Just as multicellular organisms could arise only when single cells were already common, just as animals could appear only when plants were already producing oxygen, just as large predators could evolve only when there was plenty of small game about, so complex grammatically structured utterances could appear only when simpler ones were already common. A language with lots of words and well-defined structures would seem to be the natural result of memetic selection.

The next step is to understand how language itself was able to restructure the human brain and vocal system for its own propagation. This is meme-gene coevolution again and works as follows. I have assumed that people will both preferentially copy and preferentially mate with the people with the best memes – in this case the best language. These people then pass on genetically whatever it was about their brains that made them good at copying these particularly successful sounds. In this way, brains gradually become better and better able to make just these sounds. Grammatical language is not the direct result of any biological necessity, but of the way the memes changed the environment of genetic selection by increasing their own fidelity, fecundity, and longevity.
Note that this whole process is self-sustaining. Once language evolution begins, both the language itself and the brain on which it runs will continue to evolve under the combined pressure of memetic and genetic selection. This is not the only theory to treat language as "its own prime mover", or as a self-sustaining process, but others have trouble with explaining how it ever began or why it takes the form it does. Deacon, for example, had to find a reason for crossing the "symbolic threshold" in the first place. There is no such problem with the memetic theory of language origins. The critical step was the beginning of imitation – and there is no mystery about why natural selection would have favoured imitation. It is an obvious, if difficult to find, "good trick", and one that is especially likely to arise in a species that already has good memory and problem-solving skills, reciprocal altruism. Machiavellian Intelligence and a complex social life. Once found, it sets in motion the evolution of a new replicator and its coevolution with the old.
[...] I am suggesting that verbal language is almost an inevitable consequence of memetic selection. First, sounds are a good candidate for high-fecundity transmission of behaviour. Second, words are an obvious way to digitise the process and so increase its fidelity. Third, grammar is a next step for increasing fidelity and fecundity yet again, and all of these will aid memorability and hence longevity.
Once the second replicator arose, language was more or less inevitable.

[...] Meme-gene coevolution assumes that people preferentially mated with the best meme-spreaders, in this case the most articulate people. We should remember that past selection for "good talkers" may have used up most of the original variation, leaving most of us fairly articulate today. However, the preference may still be there, so that being highly articulate makes you sexually attractive. The history of love poems and love songs suggests as much, as does the sexual behaviour of politicians, writers and television stars. (Miller 1993)
If the theory is right then human grammar should show signs of having been designed for transmitting memes with high fecundity, fidelity, and longevity, rather than to convey information about some particular topic such as hunting, foraging or the symbolic representation of social contracts. This is the memetic equivalent of adaptationist thinking in biology and I might be criticised for assuming that memetic evolution must always have found the best solution and for a kind of circular reasoning. Nevertheless, adaptationist thinking has been extremely effective in biology and may prove so in memetics. [...]
Wright (1998) has used memetics to study the translation of chemical terms such as acid, alcohol, or various elements, into Chinese, showing that alternative terms underwent intense competition for survival, with the winners depending both on properties of the terms themselves and on the meme products already in existence at the time. [...]
Finally, we should be able to predict how artificial languages could arise. There have been many attempts to get robots, or virtual robots, to use language. These usually begin by teaching the artificial systems a lot about natural languages, or by getting them to make associations between sounds and objects.
The theory I have proposed suggests an entirely different approach that assumes no knowledge of any prior language, and no concept of symbolic reference.
Let's imagine a group of simple robots, ambling about in some kind of relatively interesting and changing environment. We can call them copybots. Each copybot has a sensory system, a system for making variable sounds (perhaps dependent on its own position or some aspect of its sensory input), and a memory for the sounds it hears. Most importantly, it can imitate (though imperfectly) the sounds it hears. Now, imagine that all the copybots start roaming around squeaking and bleeping, and copying each other's squeaks and bleeps.
The environment will soon become full of noise and the copybots will be unable to copy every sound they hear. Depending on how their perception and imitation systems work, they will inevitably ignore some sounds and imitate others. Everything is then in place for the evolutionary algorithm to run – there is heredity, variation, and selection – the sounds (or the stored instructions for making the sounds) are the replicator.

What will happen now?
Will there just be an awful cacophony, or will something interesting emerge?
If the theory is correct then some sounds will have higher fidelity, longevity, and fecundity (depending on characteristics of the copybots) and these should be copied more and more accurately, and patterns begin to appear. Some sounds would be made more often, depending on events in the environment and the positions of the copybots themselves. I think this could be called language. If so, it would not be the same as any language currently used by any natural or artificial systems.
If this worked, interesting questions would arise.
Are the copybots really communicating? Are they talking about something?
If so, symbolic reference would have arisen out of simply providing the robots with the capacity to imitate. In other words, the capacity to imitate is fundamental, not the capacity for symbolic reference. That is exactly what I would expect. The final question is, could we ever understand them?


S. 184 ff.)
Mem-Mem-Interaktionen sind der Stoff, aus dem die heutige Gesellschaft ist, sei es Religion oder Politik, Sex oder Big Business, globale Ökonomie oder Internet. [...] Die Meme waren ursprünglich die Sklaven der Gene, aber Sklaven zeigen, wie er betont, eine wohlbekannte Neigung zur Unabhängigkeit, und nun könnten unsere Meme alles vom hilfreichen Mutualisten zum zerstörerischen Parasiten sein. Und Dawkins ist bekannt dafür, dass er Religionen als Parasiten des Geistes ansieht.
All das wirft die Frage auf, ob die Meme Freunde oder Feinde der Gene sind.
Die Antwort lautet natürlich "beides". Aber um Mem-Gen-Interaktionen auseinander zu dividieren, möchte ich sie in zwei Kategorien einteilen: diejenigen, in der die Gene die Evolution der Meme antreiben, und diejenigen, in der die Meme die Evolution der Gene antreiben. Das ist in vielerlei Hinsicht eine zu starke Vereinfachung. Man kann sich Fälle vorstellen, in denen sich beide helfen und kein echtes Antreiben stattfindet, aber häufiger, so vermute ich, existiert zumindest ein gewisses Ungleichgewicht und der eine oder der andere Replikator dominiert.
Der Grund für diese grobe Unterscheidung ist folgender: Wenn die Gene die Triebfeder sind (und der Hund sicher an der Leine geführt wird), erhalten wir all die bekannten Ergebnisse der Soziobiologie und der Evolutionspsychologie. Die Interessen der Gene haben Vorrang, und Leute verhalten sich in einer Weise, die ihnen auf die eine oder andere Art einen biologischen Vorteil verschafft (oder ihren Vorfahren verschafft haben würde). Männer werden sexuell von Frauen angezogen, die fruchtbar wirken. Frauen werden von starken Männern in hohen Positionen angezogen. Wir mögen Süßigkeiten und verabscheuen Schlangen usw. Diese Effekte spielen in unserem Leben eine machtvolle Rolle, und wir sollten sie nicht unterschätzen, aber sie gehören in den Bereich von Biologie, Ethologie, Soziobiologie und Evolutionspsychologie – nicht in die Memetik.
Wenn die Meme die Triebfeder sind (und der Hund das Ruder übernommen hat), verlagert sich die Macht in Richtung auf das Interesse der Meme, und die Ergebnisse sehen ganz anders aus. Diese Resultate lassen sich nicht auf der Basis des biologischen Vorteils allein vorhersagen und sind deshalb für die Memetik von entscheidender Bedeutung. Sie sind es, die die memetische Theorie von allen anderen unterscheiden, und sie bilden daher wahrscheinlich das wichtigste Testfeld für den Wert und die Macht der Memetik als Wissenschaft.

p. 128 f.)
Meme-meme interactions are the stuff of today's society: of religion, politics, and sex, of big business, the global economy, and the Internet. [...] The memes were originally the slaves of the genes but, as he says, slaves have a well-known bent towards independence and now our memes may be anything from helpful mutualists to destructive parasites. And Dawkins famously treats religions as viruses of the mind.
All this raises the question of whether the memes are the friends of the genes or their enemies.
The answer is, of course, both. But for the sake of sorting out meme-gene interactions I want to divide the interactions into two categories: those in which the genes drive the memes and those in which the memes drive the genes. This is an oversimplification in many ways. You can imagine cases in which the two help each other equally and no driving really takes place, but more commonly, I suggest, there is at least some imbalance and one replicator or the other predominates.
The reason for this crude distinction is this. When the genes are doing the driving (and the dog is safely on its leash) we have all the familiar results of sociobiology and evolutionary psychology. The interests of the genes predominate and people behave in ways which, somehow or other, give them (or would have given their ancestors) a biological advantage. Men are sexually attracted to women who appear to be fertile.
Women are attracted to strong, high-status men. We like sweet foods and dislike snakes etc. These effects are very powerful in our lives, and we should not underestimate them, but they are the stuff of biology, ethology, sociobiology and evolutionary psychology – not memetics.
When the memes are doing the driving (and the dog is in charge) power shirts towards the interests of the memes and the results are rather different. These are results that cannot be predicted on the basis of biological advantage alone, and they are therefore critical for memetics. They are what distinguishes memetic theories from all others and are likely, therefore, to be a major testing ground of the value and power of memetics as a science.


S. 187) Wie aktuelle Forschungsarbeiten zeigen, beginnen Babys bereits sehr früh, Gesichtsausdrücke und Gesten zu imitieren, ob sie nun dafür belohnt werden oder nicht. Babys vermögen Gesichtsausdrücke, die sie sehen, und Laute, die sie hören, bereits in einem Alter zu imitieren, wenn sie etwas Derartiges weder durch Übung noch durch Schauen in den Spiegel gelernt haben können (Meltzoff 1990). Etwas erfolgreich zu imitieren, ist offenbar in sich Belohnung genug. Wir erkennen nun, was die Behavioristen noch nicht sehen konnten, warum nämlich so viel von unserem Verhalten instinktiv sein muss: Die Welt ist zu kompliziert, um in ihr zurecht zu kommen, wenn wir alles von Grund auf neu lernen müssen. Tatsächlich kann auch Lernen selbst nicht ohne "vorgefertigte" Fähigkeiten in Gang kommen. Wir Menschen haben mehr Instinkte als andere Arten, nicht weniger. Um es mit Steven Pinkers Worten zu sagen: "Geistige Komplexität ist keine Folge von Lernen, sondern Lernen ist eine Folge geistiger Komplexität." (1994)

p. 130) Recent research shows that babies begin to imitate facial expressions and gestures from an early age whether they are rewarded or not. Babies are able to mimic facial expressions they see and sounds they hear when they are too young to have learned by practice or by looking in mirrors (Meltzoff 1990). Successfully imitating something seems to be rewarding in itself. We can see now, as the behaviourists could not, why so much of our behaviour has to be instinctive. The world is too complicated to cope with if we have to learn everything from scratch. Indeed, learning itself cannot get off the ground without inbuilt competencies. We humans have more instincts than other species, not fewer. As Steven Pinker puts it "complexity in the mind is not caused by learning; learning is caused by complexity in the mind." (1994, p. 125)