>>>  Laatst gewijzigd: 28 december 2017  
Ik

Woorden en Beelden

Filosofie en de waan van de dag

Start Glossen Weblog Boeken Denkwerk

Filosofie van de computertechniek

Voorkant Norman 'Things that make us smart' Donald A. NORMAN
Things that make us smart - Defending human attributes in the age of the machine
Cambridge, Mass.: Perseus Books, 1993; 290 blzn.
ISBN: 02 0162 6950

[De subtitel maakt al duidelijk dat de thematiek ongeveer gelijk is aan die van het boek The invisible computer. Hier minder herhaling van standpunten.]

(xi) Preface

De beginalinea maakt weer duidelijk waar Norman's zorgen liggen.

"Society has unwittingly fallen into a machine-centered orientation to life, one that emphasizes the needs of technology over those of people, thereby forcing people into a supporting role, one for which we are most unsuited. Worse, the machine-centered viewpoint compares people to machines and finds us wanting, incapable of precise, repetitive, accurate actions. Although this is a natural comparison, and one that pervades society, it is also a most inappropriate view of people. It emphasizes tasks and activities that we should not be performing and ignores our primary skills and attributes - aactivities that are done poorly, if at all, by machines. When we take the machine-centered point of view, we judge things on artificial, mechanical merits. The result is continuing and growing frustration with technology and with the pace and stress of a technologically centered life."(xi)

Norman vindt het voornamelijk een sociaal probleem.

(3) One - A human-centered technology

Technologie kan ons slim maken en onze mogelijkheden op allerlei terreinen uitbreiden. Maar technologie kan ons ook dom maken en werkt dan als een verslavend middel dat mensen afhoudt van meer productieve activiteiten. Een voorbeeld van dat laatste: televisie.

"Television has the power to entertain, we are told, but does it? Peer into the nation's living room in the evening and see the stultified masses, glued to thir television sets. Television has the power to inform, we are told. The average television viewer in the United Stated watches twenty-one thousand commercials per year. News of the world is reduced to a few minutes per topic, (...) a few hundred words of text."(3-4)

Norman wil waarschuwen en kritische geluiden laten horen, maar hij ziet zichzelf niet als doemdenker. Er is hoop, het kan anders. Maar dan moeten we de techniek afstemmen op mensen.

"Today most industrial accidents are blamed on human error: 75 percent of airline accidents are attributed to 'pilot error'. When we see figures like these, it is a clear sign that something is wrong, but not with the human: What is wrong is the design of the technology that requires people to behave in machine-centered ways for which people are not well suited. How well is society doing at adapting technology to the minds of its users? Badly. We still suffer from the mind-set of the Chicago World's Fair [van 1933]: 'Science finds, industry applies, man conforms'."(11)

"I am concerned that the mind has become the wasteland of modern technology, perhaps not unlike the ecological wastelands produced through the by-products of our industries."(12)

"We humans are thinking, interpreting creatures. The mind tends to seek explanations, to interpret, to make suggestions. We are active, creative, social beings. We seek interaction with others. Unlike machines we change are behavior as we attempt to understand what others expect of us. All of these natural tendencies are thwarted by the efforts of the engineering approach to efficiency. The machine-centered view is concerned primarily with operations per second. This approach emphasizes short-term productivity and treats workers in isolation from the social structure in which they participate. The result is a deteriorization of long-term goals such as quality of product, satisfaction of the worker, and the need for a nurturing social environment."(14)

"Humans are extremely complex, the most complex entity ever studied. Each of our actions is the result of multiple interactions, of a lifetime of experiences and knowledge, and of subtle social relationships. The measurement tools of science try to strip away the complexities, studying a single variable at a time. But much of what is of value to human life results from the interaction of the parts: when we measure simple, single variables, we miss the point. (...)

Consequently, science and technology tend to deal solely with the products of their measurements, they divorce themselves from the real world. The danger is that things that cannot be measured play no role in scientific work and are judged to be of little importance. Science and technology do what they can do and ignore the rest. They are superb at what they do, but what is left out can be of equal or greater importance."(14-15)

Volgt een uitleg over twee vormen van cognitie: 'experiential cognition' (ervaringskennis) en 'reflective cognition' (kennis op basis van reflectie). De laatste is lastiger te verwerven. Tot zijn spijt ziet Norman dat scholen en musea enz. afglijden naar de eerste. Educatie wordt entertainment. Hij werkt deze kwestie uit in het volgende hoofdstuk.

(19) Two - Experiencing the world

Natuurlijk zijn beide vormen van kennisverwerking nodig. Maar de benadering - zo perfect uitgewerkt in de wereld van 'games' - wordt steeds meer: als het maar motiveert, als het maar leuk is, als iemand maar heel snel heel veel kan meemaken.

"Of all these dangers, the one I think poses the greatest peril today is that of experiencing when one should be reflecting. Here is where entertainment takes precedence over thought. Worse, one can believe that the experiental mode has substituted for independent, constructive thought, for reason and reflection. Reflective thought is the critical component of modern civilization: It is where new ideas come from."(27)

Naast twee manieren van cognitie zijn er drie manieren van leren: 'accretion' (het verzamelen van feiten), 'tuning' (het geleidelijke tijdrovende verbeteren van vaardigheden en inzichten), en 'restructuring' (begrippen en theorieën vormen via reflectie). Het onderwijs kan veel leren van 'games' als het gaat om het oproepen van motivatie die vanzelf leidt tot concentratie en als het gaat om een aanpak van leren door te ontdekken.

[Norman is best positief over de informele leervormen die 'games' bieden en vindt het bestaande onderwijs saai en vervelend. Maar hij vindt dan wel dat 'games' niet moeten blijven hangen in 'experiential cognition', in 'entertainment', dat is nu net een gemiste kans. Het informele leren zou moeten uitlopen op reflectie.]

"Multimedia for education must minimize the fluff and get the users working - working hard, not because they have to but because they want to. Educators must get rid of the lockstep, paced, arbitrary instruction, where students work hard because they have to, not because they want to. Together, we might reach a solution."(41)

(43) Three - The power of representation

Hulpmiddelen (door Norman in het Engels 'artifacts' genoemd) die mensen helpen om te onthouden, te analyseren, te redeneren zijn voor mensen belangrijk. De belangrijkste zijn misschien wel papier en pen, en lezen en schrijven. Symbolische representatie van de werkelijkheid speelt daarin een belangrijke rol. De representatie maakt dat de echte werkelijkheid niet zelf aanwezig hoeft te zijn. De representaties kunnen zelf weer een werkelijkheid vormen die door iets anders gerepresenteerd wordt.

"Once we have ideas represented by representations, the physical world is no longer relevant. Instead, we do our thinking on the representations, sometimes on representations of representations. This is how we discover higher-order relationships, structures, and consistencies in the world, or, if you will, in representations of the world."(51-52)

"The power comes from the ability to make new discoveries. The danger occurs whenever we fool ourselves into believing that the representation is the reality."(52)

Uiteraard kan een representatie van de werkelijkheid beter of slechter zijn. Norman geeft daarvan allerlei voorbeelden. Een belangrijk aspect: 'naturalness' - de eigenschappen van de representatie komen sterk overeen met de eigenschappen van hetgeen gerepresenteerd wordt. Ook belangrijk: er wordt in die 'naturalness' waar dat kan gebruik gemaakt van ruimtelijke op de waarneming gebaseerde representatie.

(77) Four - Fitting the artifact to the person

Artefacten veranderen over het algemeen niet onze cognitieve mogelijkheden, ze veranderen de taken die we uitvoeren met die cognitieve mogelijkheden. In plaats van zaken te onthouden met ons geheugen, schrijven we ze bijvoorbeeld op en lezen ze terug. Maar het gaat nog steeds om het onthouden van zaken.

Een ander ding is dat die artefacten die ons in onze cognitie helpen geleerd moeten worden. Wezenlijke vraag: wat maakt nu dat sommige vaardigheden / hulpmiddelen in cognitie effectiever zijn dan andere? Daartoe eerst een onderscheid:

Er zijn globaal twee categorieën van artifacten: 'surface' en 'internal'. Bij de eerste is alles zichtbaar, voorbeeld een boek. Bij de andere is minstens een deel onzichtbaar, voorbeeld een rekenmachine.

"Internal artifacts need interfaces, some means of transforming the information hidden within their internal representations into surface forms that can be used. This poses some important design considerations."(81)

De kunst is dan om een interface te maken die goed representeert wat aan de oppervlakte moet komen. Bij 'surface artifacts' is een eigen interface al aanwezig, maar verder design kan daarin wel een rol spelen.

Er zijn passieve artefacten waarvan de representatie alleen kan veranderen door activiteiten van gebruikers. Er zijn ook actieve artefacten die hun representaties zelf kunnen veranderen (klokken, rekenmachines, computers). Voorbeelden van problemen en hun representaties..

"These examples make it clear that we do not operate by mathematical or symbolic logic: We operate by perceptual routines. We are especially good at making perceptual judgements, not so good at abstract or symbolic ones."(90)

Mensen zijn dus waarnemers. Alleen moet er dan wel onderscheid gemaakt worden tussen de fysica van de waarneming en de psychologie van de waarneming. Dat heeft namelijk gevolgen voor de representatie aan de oppervlakte van artefacten [voor hoe we die hulpmiddelen ontwerpen en vormgeven, met andere woorden]. Denk aan de immens populair geworden grafische representaties of grafieken. Vaak brengen die informatie heel slecht over, omdat geen rekening gehouden wordt met de psychologie van de waarneming. Voorbeelden van grafieken.

"These distortions of perception afre well kjnown by professionals who make graphs. Unfortunately, this knowledge can also be used to mislead the viewer. Inappropriate representations can easily confuse, whether by deliberately making information difficult to discover or by deliberately emphasizing desirable features and obscuring undesirable ones."(95)

Andere voorbeelden: digitale of analoge weergave van snelheidmeters / klokken / hoogtemeters enz..

"Physical artifacts can be designed so that they are easy to learn, esy to use. The same is true for cognitive artifacts, although here some new principles must be provided. We need to consider the nature of the task to be performed and the powers of the human."(103)

"Information media do not necessarily take on a form amenable to humans. They are true internal artifacts, in that information is abstract and invisible. The information tends to be represented internally in the same manner, regardless of its content. This is especially true of digital media, in which everything gets transformed into a numerical representation expressed as binary digits - a long sequence of 0s and 1s (usually encoded as two levels of electrical charge)."(104)

Het digitale middel is volkomen neutraal ten opzichte van de inhoud die het representeert. Dat is de kracht van het middel. Maar dat heeft juist nadelen voor mensen.

"Humans need a meaningful, accessible representation: sounds, sights, touch, organized in meaningful, interpretable ways."(104)

Er hangt dus heel veel af van hoe ontwerpers van digitale apparaten die interne representaties van de inhoud aan de oppervlakte brengen zodat mensen er iets mee kunnen. 'Affordances' van technische middelen zijn daarbij belangrijk: de mogelijke functies die ze kunnen hebben.

"In design, the critical issue is perceived affordances: what people perceive the object can do. (...) Affordance also applies to technologies. Different technologies afford different operations. That is, they make some things easy to do, others difficult or impossible. It should come as no surprise that those things that the affordances make easy are apt to get done, those things that the affordances make difficult are not apt to get done."(106)

Het verschil tussen televisie (serieel, georganiseerd in tijd, legt het tempo op) en drukwerk (parallel, georganiseerd in ruimte, laat het tempo aan de lezer over, beter geschikt voor reflectie) op dat punt. Ander voorbeeld: 'voice messaging systems' van de telefoon.

"A major problem occurs when those who suffer from technology's deficits and those who benefit are not the same people. In the telephone system, the benefits are to the company, the burdens fall upon the users. This kind of trade-off I have come to call Grudin's law, after Jonathan Grudin, who first proposed it:

     Grudin's law: When those who benefit are not those who do the work, then the technology is      likely to fail or, at least, be subverted."(112-113)

(115) Five - The human mind

Bekijkt de insteek van Artificial Intelligence waarin de menselijke geest gezien wordt als een informatieverwerkende machine. In feite is het een kritiek op allerlei vormen van wetenschappelijk formalisme en reductionisme. Er zijn gewoon te veel verschillen tussen mensen en machines en dat is prima: dan kunnen ze elkaar aanvullen.

Menselijke mogelijkheden - spel en sport, kunst, humor, taal, muziek, educatie, verhalen vertellen, waardering van schoonheid - gaan niet alleen veel verder dan die van machines, ze gaan ook veel verder dan die van dieren.

Over verhalen vertellen en logisch denken. Norman vindt ze allebei nodig om tot beslissingen te komen.

"Stories have the felicitous capacity of capturing exactly those elements that formal decision methods leave out. Logic tries to generalize, to strip the decision making from the specific context, to remove it from subjective emotions. Stories capture the context, capture the emotions. Logic generalizes, stories particularize. Logic allows one to form a detached, global judgment; storytelling allows one to take the personal point of view, to understand the particular impact the decision is apt to have on the people who will be affected by it."(130)

Over de fouten die mensen maken in kennisverwerving:

"People do err, especially when required to do things for which we are not suited. The trick in designing technology is to provide situations that minimize error, that minimize the impact of error, and that maximize the chance of discovering error once it has been committed. The human-centered way."(138)

(139) Six - Distributed cognition

Over 'control rooms' in vliegtuigen, schepen, kerncentrales en andere grote fabrieken. Over de digitalisering en de inzet van computerschermen die daarbij niet altijd een vooruitgang vormen. De grote in schijn verouderde meet- en regelapparaten blijken handig om samen te werken en iedereen toch het overzicht te bieden over de gehele situatie. Iets wat moeilijk kan met kleinere beeldschermen en weergaves. Het gaat om visuele aanwijzingen door fysieke bewegingen die mensen sneller oppikken bij grotere hendels e.d.

"The need for communication and synchronization of actions among members of a team is a very subtle phenomenon. The large mechanical controls and the resulting large control rooms required people to move around a lot as they did their tasks. As a result, a lot of communication was shared, but invisibly, accidentally, without people really being aware that it was happening. Nobody realized just how important this was to the smooth operation of the system until it went away."(143)

"New technologies can indeed make life more enjoyable and productive. The problem is, it isn't always obvious just which parts are critical to the social, distributed nature of the task, which are irrelevant or detrimental. Until we understand these aspects better, it is best to be cautious."(145)

"The human side of work activities is what keeps many organizations running smoothly, patching over the continual glitches and faults of the system. Alas, those inevitable glitches and faults are usually undocumented, unknown. As a result, the importance of the human informal communication channels is either unknown, unappreciated, or sometimes even derided as an inefficient and obstructive, non-job-related activity."(145-146)

Wanneer je dit soort dingen weet, moet je wel kritiek hebben op de benadering van het grootste deel van de cognitieve wetenschappen en de AI. Norman heeft dat dan ook:

"The sciences of cognition have tended to examine a disembodied intelligence, a pure intelligence isolated from the world. It is time to question this approach, to provide a critique of pure reason, if you will. Humans operate within the physical world. We use the physical world and one another as sources of information, as reminders, and in general as extensions of our own knowledge and reasoning systems. People operate as a type of distributed intelligence, where much or our intelligent behavior results from the interaction of mental processes with the objects and constraints of the world and where much behavior takes place through a cooperative process with others."(146)

[Dit is dus helemaal in overeenstemming met mijn eigen visie op kennisverwerving en intelligentie en AI. Met dit standpunt bekritizeer je allerlei vormen van reductionisme waar we helemaal niets aan hebben en die zelfs gevaarlijk kunnen zijn.]

Wetenschappers proberen hun taak te vereenvoudigen door allerlei context weg te laten. Zo proberen linguïsten de vaagheid in de taal steeds weer weg te werken, terwijl die in de praktijk voor kennisverwerking en communicatie een heel belangrijke functie heeft.

"The world has an important property: In the real world, it is not possible to do actions that are not possible. This sounds trivial and obvious, but is has some profound implications when we move into the artificial world of cognitive artifacs."(148)

Het blijkt heel moeilijk dat in gesimuleerde werelden te realiseren.

"People are effective when they work in a rich, varied environment. A disembodied intelligence is deprived of rich sources of information."(153)

(155) Seven - A place for everything, and everything in its place

Over informatie-overvloed wordt geklaagd sinds ongeveer 1880. Allerlei manieren om informatie te organiseren werden verzonnen (ook weer cognitieve artefacten in Norman's taal). Bijvoorbeeld de 'Wooton patent desk' op p.155 (een zogenaamde 'pigeonhole desk', een bureau met heel veel vakjes). Net erg efficiënt. Later kwamen de archiefkasten ('vertical filing cabinet'), al een stuk handiger, maar er moesten dan wel afspraken gemaakt worden over papierformaten, ruitertjes, wat wel en niet gekopieerd en opgeborgen moest worden, en zo verder.

Norman geeft vervolgens andere voorbeelden van het organiseren van grote hoeveelheden informatie. Duidelijk is dat de digitalisering hier een grote sprong voorwaarts mogelijk gemaakt heeft. Maar door cyberspace is de hoeveelheid informatie ook enorm gegroeid. Hoe kunnen we navigeren in die massa van informatie? Zijn ruimtelijke metaforen de oplossing? Alleen wanneer aan bepaalde voorwaarden is voldaan en dat is zelden het geval, vindt Norman. Navigatie door ruitmtelijke weergaves heen (bv. een hiërarchie) werkt in veel gevallen simpelweg niet.

"What are the alternatives? Simple: Why have any organization? Why have a space?"(179)

Het menselijk geheugen ordent tenslotte ook niet op die ruimtelijke manier.

"I call this process navigation by description. We describe what we care about (mentally, to ourselves), and the system works with that. Any description."(179)

"The power - and the danger - of electronic databases is that they provide the affordances for compiling information that never before could have been collected without expending enormous amounts of time, energy, and resources. Prior to the computer the affordances were nil."(182)

De gevaren hebben te maken met de kwaliteit van al die informatie en met de aantasting van privacy door marketingbureaus bijvoorbeeld.

(185) Eight - Predicting the future

We willen weten hoe technologie zich in de toekomst zal ontwikkelen, om eventueel op tijd bij te sturen. Maar dat is niet simpel, vrijwel onmogelijk zelfs. Wanneer je terug kijkt naar voorspellingen in het verleden over technologie en maatschappij zie je hoe vaak men er naast zat. En dan vooral over de sociale gevolgen van een techniek, minder over de techniek zelf.

"I start by examining four examples of failure in prediction: the private helicopter, nuclear power, the computer, and the telephone. For each, I'll pay special attention to the social aspects of the prediction and the technology. Then I examine three examples of failure to predict the time frame of technological development: television, the airplane, and facsimile machines. Each of these took a surprisingly long time between its initial invention and widespread adoption."(186)

"Technologists always seem to think that people are not human, that they work like machines."(188)

"The real issues are political, economic, and social, not technological."(196)

Bijvoorbeeld. Ook al zou iemand technisch gezien de beschikking kunnen hebben over heel de inhoud van de Library of Congress, dan nog zegt dat niets: al die informate moet dan ook nog doorzocht worden en mogen worden (intellectueel eigendom en andere beperkingen).

"With the technology of digital publishing, people could select only those things that interests them in the preferred format, ignoring the rest. Is this a good idea? Not clear. For the individual, yes. For society, maybe not. (...) With this new technology, there might be no commonality at all."(198)

"Every one of these technological predictions raises the possibility of severe drawbacks in addition to their perceived benefits. Some of these problems have already been discussed. Other problem areas include privacy, societal imbalance of access to the new technologies (the haves versus the have-nots), dealing with society's sociopaths, and the impacts upon social interaction."(198)

[Norman geeft allerlei voorbeelden van denkbare technieken, maar is bijzonder skeptisch over de realisatie ervan of over de uiteindelijke voordelen ervan. Voor hem is de 'menselijke weg' in de meeste gevallen toch de beste en handigste. Lang niet alle digitale hulpmiddelen helpen echt of helpen ons van de wal in de sloot.]

(221) Nine - Soft and hard technology

In het dagelijkse leven wordt door mensen veel waargenomen en aangevoeld dat voor machines niet bestaat.

"Empathy: That's going to be a hard trait to build into machines, even the most artificially intelligent of them."(222)

"The things we are good at are the things natural to humankind. The things we are bad at are unnatural. And guess what? We can build machines that perform flawlessly many of the things we are bad at. As for the things we are good at, it is very difficult, today usually impossible, to build machines that can do them. 'Why that's wonderful,' you should be saying. 'What a marvelous match to our abilities! Between us and our machines, we could accomplish anything, for the one complements the other. People are good at the creative side and at interpreting ambiguous situations. Machines are good at precise and reliable operations.'

Hah! That isn't what has happened. Instead, technology has decided that machines have certain needs and that humans are required to fulfill them. The things we are good at, those natural abilities, are hardly noticed. Machines need precise, accurate control and information. No matter that this is what people are bad at providing, if this is what machines need, this is what people must provide. We taylor our jobs to meet the needs of machines."(222-223)

"As soon as one takes the machine-centered point of view, everything automatically leads to a focus upon human weaknesses rather than strenghts.

The industrialized, machine-centered view of the person includes such terms as imprecise, sloppy, distractible, emotional, and illogical. Think about those terms: each one a negative attribution of people, especially as compared with machines. Machines are precise, people are vague. Machines are neat and orderly, people are sloppy. Machines concentrate on their task, but people can be distracted. Humans are emotional, machines are logical. See what a badly engineered piece of machinery we are?"(223)

"It will take extra effort to design systems that complement human processing needs. It will not always be easy, but it can be done. If people insisted, it would be done. But people don't insist: Some how, we have learned to accept the machine-dominated world."(227)

[Dat is dan weer een beperking in Norman's analyses: de maatschappij, en met name het economische systeem, wordt te veel voor vanzelfsprekend aangenomen. Dit is niet iets wat 'mensen' doen, dit is wat een bepaalde groep van machtige, hebzuchtige, rijke mensen doet. Dit zijn gevolgen van een kapitalistische samenleving waarin de machtigen zich weinig tot niets gelegen laten liggen aan de mensen die met hun productiemiddelen moeten werken. Zoals ze vroeger ook al niet deden. Vroeger de 'cotton mill', nu de 'computer mill'. Maar weer wel leuke standpunten als de volgende:]

"From the seventeenth-century views of Descartes through today, the human mind has been thought of as a computational device, usually a rigid, computational mechanism based on clockwork or simple logic. Almost every advance in the science and technology of computation, control, and communication has also been described as an advance in the science of thought processes, usually without any evidence, usually by people who had never studied people."(228)

"The thought processes of humans are not like the mathematical logic of machines. Indeed, were the thought processes of humans like that of logic, we wouldn't have needed to invent logic as an aid to thought: Logic is important because it is different. Logic is most definitely not a good model of human cognition. Humans take into account both the content and the context of the problem, whereas the strength of logic and formal symbolic representation is that the content and context are irrelevant."(228)

Ook in het gebruik van taal door mensen gebeurt veel meer dan logica ooit kan vangen.

"Human language takes into account the point of the encounter, which is to communicate. Basically, the idea is that most of the time, we treat the person we are talking with as an intelligent partner who shares considerable knowledge about the topic and who understands the nature of communication. Both parties actively interpret the other's actions and utterances, the result being a shared space of ideas and concepts. We do more than work out the meaning of the words: We also try to figure out why they were said. If others tell us something, we assume it's for a reason. In fact, when others do not tell us something, especially if we know that they know it, the omission is also meaningful."(229)

Technische systemen kunnen hard of zacht zijn. In harde systemen komt de techniek eerst en moeten mensen zich aanpassen. In zachte systemen is dat niet zo.

"Soft technology refers to compliant, yielding systems that informate, that provide a richer set of information and options than would otherwise be available, and most important of all, that acknowledge the initiative and flexibility of the person."(232)

Harde systemen moeten getransformeerd worden naar zachte waar dat kan, door te beginnen met de behoeften van de mensen die ze gebruiken. Voorbeelden.

(243) Ten - Technology is not neutral

Norman is het niet eens met de opmerking van McLuhan dat 'the medium is the message'. Het medium is niet méér dan de drager van inhoud, is niet de inhoud zelf. Wel is het zo dat het medium allerlei eigenschappen heeft die van invloed zijn op het overbrengen van inhoud (de 'affordances' ervan). Voorbeeld: Een boek lezen vraagt veel meer dan televisie kijk, al gaat het over hetzelfde onderwerp.

"Technologies are not neutral. They affect the course of society, aiding some actions, impeding others, independent of the morality or necessity of those actions. Technology also has its side effects, both physical and mental. Technology can aid as much as it can detract. It really is up to us, both as individuals and as a society, to decide which course we shall take. The course followed so far is not necessarily the appropriate one."(250-251)

Start  ||   Glossen  ||   Weblog  ||   Boeken  ||   Denkwerk