Når menneske og maskin kommuniserer

Her er til beste ein artikkel min kjære Mona har begått. Mona er utdanna informasjonspsykolog frå Institutt for psykologi, NTNU. I artikkelen gjer ho greie for samspelet mellom menneske og maskin, og kva slags grunnleggande utfordringar som gjer at desse to sjeldan kommuniserer godt nok:

"Kommunikasjon mellom menneske og maskin skiller seg på mange måter ikke stort fra kommunikasjon mellom mennesker. For at kommunikasjon skal fungere er vi avhengig av at partene forstår hverandre og stoler på hverandre." (...) "Vi må ta hensyn til egenskapene til aktørene, og det er store og vesentlige forskjeller mellom mennesket og maskinen. Mennesket er svært fleksibelt, har god evne til å korrigere sin adferd i tillegg til at det kan bearbeide store mengder informasjon. På den annen side kan mennesket sin kreativitet medføre mindre pålitelighet. Maskinene er mer pålitelige. De er preprogramert for nøyaktige spesifikke funksjoner." (...) "Å lage systemer som tar hensyn til partenes egenskaper er en utfordring"

Eit mogleg svar på utfordringa i kommunikasjonen mellom menneske og maskin, er å eliminere den menneskelege delen av likninga(!). Artikkelen tek også for seg dette spørsmålet og farane som knytter seg til dette, ved å gå referere til m.a. AI-system.

Det bør kanskje også presiserast at artikkelen i hovudsak tek utgangspunkt i brukargrensesnitt til ekspertsystem som kontrollrom og cockpitar, heller enn brukaropplevingar i høve til nettstader og forbrukarteknologi - som er hovudfokus for denne bloggen. Men dei grunnleggande innsiktene i kommunikasjonen mellom menneske og maskin er minst like viktige for begge områda.

(Mona Halland er i dag informasjonsarkitekt i Halogen as.)

Download file

Når mennesket og maskinen kommuniserer
- Hvordan kan vi ta hensyn til kognisjon og menneskelige feilhandlinger i ny teknologi?

Semesteroppgave i Psy 64
Kognitiv psykologi
NTNU, Psykologisk institutt
Mona Sverrbo Halland
Januar 1997

--------------------------------------------------------------------------------

Innholdsfortegnelse
Sammendrag
Innledning
1. Kan menneskelige feilhandlinger forklares?
1.1 «Symbolic Processings Theory»
1.2 «Generic Error-Modelling System»
1.3 "The cognitive viewpoint
2. Når menneske og maskin skal kommunisere
Oppsummering
Referanser

--------------------------------------------------------------------------------

Sammendrag
Flere kognitive teoretikere har modellert menneskets kognisjon innenfor informasjonsprosesserings paradigmet. De konstruerer tankevirksomhet på flere nivå, men modellene skiller seg fra hverandre med hensyn til hvor mange nivå og hvordan disse nivåene kommuniserer med hverandre. Men fra å se på kognisjon alene så har flere forsøkt å finne bindeleddet mellom kognisjon og menneskelige feilhandlinger. Rasmussen (1987) og Reason (1990) har forklart feilhandlinger på ulike kognitive nivå med utgangspunkt i informasjonsprosesserings paradigmet. Hollnagel (1993) derimot hevder det først og fremst er faktorer i omgivelsene som avgjør kognisjon og feilhandlinger. Han skiller mellom "procedural prototype model" og " contextual control model". Førstnevnte fokuserer på feiltendenser mennesker gjør, mens sistnevnte bruker menneskets kontroll i omgivelsene som indikasjon på kognisjon. De ulike kognitive forklaringsmodellene belyser på hver sin måte hvordan menneskelige feil kan forklares. Men det er mange faktorer som virker inn når menneske og maskin skal kommunisere. Psykologisk forskning har gitt anvendbare funn på mange områder, som under utvikling av interface design, forståelse av automatiserte systemer, hvordan hjelpesystemer bør være eller hvordan mental arbeidsbelastning kan reduseres. En av målsettingene er å finne ut hvordan systemet kan tilpasses menneskets mentale modell. Men forholdet mellom menneske og maskin er mer komplekst enn bare menneskets kognisjon.

--------------------------------------------------------------------------------

Innledning
Mye av det som foregår i industri og yrkesliv har forandret seg radikalt de siste femti årene. Ny teknologi har medført økt automatisering der mennesket er forflyttet fra aktør til observatør, fra det fysiske til det kognitive. Det er derfor vesentlig å forstå menneskets kognisjon for å kunne designe maskiner og utstyr som kan håndteres av mennesket. I den nye teknologiske verden har mange feil og ulykker menneskelige årsak. Målsettingen er å finne frem til maskiner og systemer som kan fungere godt i sammen med mennesket. Mennesket og maskinen utgjør et fabelaktig team når de er tilpasset hverandre. I dagens samfunn er vi avhengig av moderne teknologi. Men ennå kreves mer kunnskap om menneskets kognitive prosesser, slik at maskinen og mennesket kan forstå hverandre og samarbeide optimalt.

Innenfor kognitiv psykologisk forskning, har man lenge forsøkt å forklare komplekse kognitive funksjoner. Noen konsentrerer seg om å forstå detaljerte funksjoner som for eksempel persepsjon eller lesevansker, mens andre forsøker å forstå større overordnede funksjoner som styrer flere mentale operasjoner. Ved å konstruere en kognitiv arkitektur ønsker man å forklare de strukturene som behandler informasjon. Den kognitive arkitekturen består med andre ord av en antall spesialiserte informasjonsprosesser. Det er flere modeller som på ulik måte beskriver disse kognitive strukturene og som på hver sin måte forsøker å forklare hvordan mennesket behandler informasjon. Kognisjon kan aldri observeres, men bare studeres gjennom hypotetiske teorier på hvordan mental aktivitet foregår. Det er vanlig å bruke datasimuleringer for å forklare kognisjon. Simuleringer kan i tillegg til å illustrerer kognisjon benyttes av utprøving av ny design og ved utviklingen av intelligente datasystemer. Allen Newell (1990) som tilhører informasjonsprosesserings tradisjonen har datamodellert “Soar”. Det er en modell som er bygd opp av to primære funksjoner; et symbolnivå der primære kognitive funksjoner foregår og en langtidshukommelse der tidligere erfaring blir lagret. Soar jobber hele tiden mot måloppnåelse. Under problemløsning av et nytt problem jobber de primitive funksjonene på symbolnivå aktivt, men er fullstendig avhengig av kunnskap fra langtidshukommelsen. Dersom problemet ikke lar seg løse ved hjelp av ervervet kunnskapen, så konstruerer Soar realistiske delmål. Når delmålene er nådd, kobles det sammen med tidligere kunnskap slik at det utvikles et større. John Anderson (1983), mener at kognisjon ikke kan reduseres til enkle basale mekanismer. Kognisjon har for mange elementer. Han har utviklet en annen modell ACT* som også er en datasimulering. ATC* er bygget opp av tre hukommelsessområder som er knyttet sammen, arbeidshukommelse, deklarativ hukommelse (semantisk langtidshukommelse) og produksjonshukommelse. Sistnevnte blir aktivisert av arbeidshukommelsen. De kognitive prosessene blir styrt av indre interne koblinger mellom de ulike hukommelsene. Anderson hevder at det finnes mange veier og koblinger mellom hukommelse og mental aktivitet, ikke bare én. Anderson mener at flere mentale operasjoner kan foregå på samme tid, at parallell prosessering er mulig (Anderson 1983).

Mens Soar og ATC* har blitt utviklet innenfor en vitenskapelig tradisjon der informasjonsprossesering hos datamaskinen har vært den dominerende analogien, så har Unerspesification Theory (UT) av Reason en annen bakgrunn. Målsettingen hans var å konstruere den feilaktige maskinen, som Reason spøkefullt kaller mennesket. Reason sin kognitive modell består av to strukturelle komponenter, arbeidshukommelsen og kunnskapsbasen. Arbeidshukommelsen er et aktivt kognitivt arbeidsområde med begrenset arbeidskapasitet. Arbeidshukommelsen er inndelt i kognitive arbeids sekvenser, mens kunnskapsbasen består av prekodete schema med både deklarativ og prosedural kunnskap i et system mer eller mindre uten grenser. UT jobber ut i fra to primære kognitive prinsipper, “similarity matching” og “frequency gambling”. Det vil si at kunnskap som kommer inn til kunnskapsbasen blir sammenlignet med allerede eksisterende kunnskap. Enten på grunnlag av likhet eller hvor ofte handlingen har oppstått før. Den tredje primitive prosessen, “direct inference” operer i arbeidshukommelsen i de tilfeller similarity matching og frequency gambling har mislyktes. Direct inferens kommer på et høyere kognitivt nivå og er basert på analoge og deduktive/induktive resonneringer. Men ifølge Reason så inntrer direct inferens sjeldent (Reason, 1990). På grunnlag av de teoretiske perspektiver i UT har COSIMO (Cognitive Simulation MOdel) blitt laget. Det er en kognitiv modell som simulerer menneskes besluttningstagning og adferd i komplekse omgivelser (Cacciabue,P.C., Decortis, F., Mancini,G., Masson, M., Nordvik,J.P., 1989, 1992). Modellen har særlig blitt benyttet som støtte til hvordan kontrollrom på kjernekraftverk bør være. Undersøkelser med COSIMO har vist at i ekstreme situasjoner er det nettopp tidligere erfaring og kunnskap som predikerer hva operatøren kommer til å gjøre (similarity matching og frequency gambling). Logisk resonnering fra “direct inferens” blir ikke brukt i stress situasjoner (Cacciabue et al., 1992). Operatørene søker etter den informasjonen i kontrollrommet som allerede bekrefter deres første antagelse.

En av målsettingene med å lage datamodeller av kognisjon er å komme inni og forstå menneskenes mentale modell. Menneskets mentale modell av et problem eller handling er ikke åpenbar. Misforhold mellom menneske og maskin eller designer/operatør eller flyger/flygeleder sine mentale modeller, kan være grobunn eller årsak til feilhandlinger. Det er derfor svært viktig å finne gode mentale modeller som er relevant for de operasjoner som skal utføres. Hvordan operatørene i et kjernekraftverk tolker situasjonen eller hvordan flygeren opplever flygesituasjonen. Hvordan de tolker situasjonen og leser informasjon fra omgivelsene. Disse aspektene kan samles innenfor begrepet "situation awareness". Det er viktig å forstå operatørenes "situation awareness", blant annet for å finne ut behovet for feedback og hvordan kommunikasjonen med maskinen fungerer. Gode kognitive modeller kan gi fruktbare bidrag i utviklingen av menneske-maskin system (Bridger, 1995). For å finne ut hvordan maskiner og mennesket kan utvikle et funksjonelt samarbeid, så er det nødvendig å forstå mennesket tendenser til å gjøre feil. Ser vi klare grupperinger på ulike feilhandlinger? Er det kjennetegn ved mennesket eller situasjonen som kan predikere feil? Hvordan kan maskinen eller systemet designes slik at feilprosenten minskes heller enn å øke?

1. Kan menneskelige feilhandlinger forklares?
De modellene vi skal se på kan deles inn i to karakteristiske forståelsens modeller «procedural prototype model» og «contextual control model» (Hollnagel,1993). En "procedural prototype model" legger vekt på at det eksisterer karakteristiske predefinerte sekvenser av (elementære) handlinger, som impliserer de mest naturlige måter å gjøre ting på, fremfor andre måter. I følge dette synet så kan vi ut i fra en handlingssekvens, forvente hvordan fortsettelsen blir ut i fra en kjent prototype. "Procedural prototype" er derfor en normativ beskrivelse av hvordan en bestem handling bør utføres. Mens den andre retningen "contextual control model" mener at handlinger er determinert av konteksten heller enn en medfødt tendens. Det er derfor ikke mulig a priori å beskrive en prototype mellom handlinger. Valg treffes på grunnlag av den foregående hendelsen og konteksten. Valget er nødvendigvis ikke et bevisst valg fra operatøren. Modellen kjennetegnes ved at den konsentrerer om hvordan kontroll over situasjonen styrer handlingsalternativer og påvirker kognisjonen, heller enn å finne ut om bestemte sekvenser opptrer oftere enn andre.

Oppgave vil presentere teorier fra begge forståelses modellene. Innefor "contextual control model" finner vi det som Hollnagel kaller "the cognitive viewpoint" (Hollnagel 1993). Den kognitive synsvinkelen etterstreber en fokusering på det helhetlige mentale handlingsaspektet, heller enn de kognitive mekanismene som måtte ligge bak handlingen. Dette er delvis begrunnet med at adferd ikke er en funksjon av input og mentale stadier, og delvis fordi de indre "mekanismene" er for store og komplekse til at de kan fanges opp av en teori. Menneskelig kognisjon foregår i en kontinuerlig prosess, ikke i adskilte mentale sekvenser, hevder Hollnagel. De som tilhører dette paradigme mener at kognisjon er for komplisert til at den kan reduseres til en informasjons prosess ved hvert individ (Wood & Roth, 1988, Hollhagel, 1993). «Symbolic Processing Theory» fra Rasmussen (1987) og «Generic Error-Modelling-System» representerer to retninger innenfor «procedural prototype model. Disse blir presentert nedenfor.

1.1 «Symbolic Processings Theory»
Denne teorien beskriver både mennesket og maskinen som symbol-manipulernde systemer. Teorien er sterkt influert av Bobrow og Norman (1975) sitt konsept om et funksjonelt kognitivt system på flere nivå. Rasmussen skiller mellom ferdighetsnivå (skillbased), regelavhengig nivå (rulebased) og kunnskapsnivå (knowledgebased), som har ulike funksjoner i forhold til kognisjon. Modellen knytter sammen diagnostisering, beslutningstaking og feilhandlinger på de ulike nivåene (Hoc, Amalberti, Boreham 1995).

På det første nivået, "skillbased", blir adferd kontrollert av innlærte instruksjoner, utførelsen er automatisert eller implisitt. På dette nivået forholder operatøren seg til informasjon i form av signaler fra omgivelsene. Signalene har ingen mening eller signifikans bortsett fra det fysiske innholdet i tid og rom. Men de gir aktøren navigeringspunkter som han kan korrigere atferden etter. Oppmerksomhet ut til omgivelsene er derfor viktig.

På det neste nivået "rulebased", blir atferden styrt av lærte regler eller prosedyrer. Handlinger preges av en overbevisning om hvordan ting skal gjøres, et «know-how» på samme måte som vi følger en matoppskrift. Atferden er målorientert med en bestem planlagt fremgangsmåte i hodet. Operatøren velger den planen som har gitt størst suksess før. Bare de reglene eller prosedyrene som har vært vellykket overlever, de kontrolleres etter «survival of the fittest» regelen. Den informasjonen som bearbeides på dette nivået er tegn som kan knyttes til tidligere erfaring eller situasjoner. Tegnene kan ikke brukes til annet enn å modifisere allerede eksisterende regler. Finnes det ingen tilgjengelige regel for et aktuelt problem så "hopper" kognisjonen opp på kunnskapsnivået.

Når hverken ferdighet eller regel nivået var til hjelp må operatøren skaffe ny kunnskap for nye problemløsnings-strategier fra "knowledgebased" nivå. Operatøren vet hvor han vil, men veien til målet må han analysere seg frem til. Ulike planer og hypoteser testes og evalueres opp i mot ulike kjente utfall. Han skaper ulike mentale modeller for hva problemet består av og veier kostnader opp i mot antatt nytte. For å få til en fruktbar funksjonell analyse så benytter operatøren seg av informasjon i form av symboler. Symboler er abstrakte begrep som er velegnet å bruke i hypoteser og sannsynlighets-vurderinger. Ved hjelp av symboler det er mulig å tenke utover den aktuelle konteksten, som igjen gjør det mulig å komme med helt nye teorier og ideer. Denne egenskapen gjør oss fleksible men også upredikerbare i mange situasjoner.

I det aktive liv opererer de tre nivåene etter det Rasmussen kaller en «Step-Ladder-Model». Når operatøren møter et problem gjør han først og fremst de gode gamle operasjonene som han alltid har gjort (similarity matching og frequency gambling). At det er fare for feil blir faktisk ikke oppdaget før de vanlige prosedyrene mislykkes. Da må operatøren finne en ny prodsedyre/regel. Han må gå over på regelnivået. Finnes det der ingen velegnet regel som kan løse problemet, går den kognitive vandringen opp til det høyeste kunnskapsnivået. Dette nivået svarer til det Reason kaller “direct inference” i sin UT-modell. Det er altså er hierarkisk inndeling fra kunnskapsnivået og nedover til ferdighetsnivået. Ny adferd «lages» ved hjelp av kunnskap, men selve læringsprosessen innebærer at kunnskapen vandrer nedover i system. Fra kunnskapsnivået, til regelnivået der innlæringen veiledes av instruksjoner og ned til ferdighetsnivået der atferden til slutt blir automatisert. Et viktig poeng er imidlertid at det ikke er kontroll prosessene på de høyere nivåene som blir automatisert (Rasmussen 1986, 1987).

"Step-Ladder-Model" beskriver en ideel kognitiv inndeling. Det er sjeldent vi kan observere så klare inndelinger som Rasmussen presenterer. Han har imidlertid flere modifikasjoner som viser at operatøren kan ta mange snarveier eller Short-cuts mellom de ulike mentale trinnene.

Analyser av ulykker gjør oss umiddelbart oppmerksom på at feil ikke kan forklares ved observasjon av handlingen i isolasjon. Handlingsvalget må sees i samsvar med aktørenes intensjoner og forventninger i situasjonen. Med andre ord, så må menneskelige feil defineres i et totalt bilde med alle faktorene i menneske-maskin systemet (Rasmussen, 1987). James Reason har anvendt Rasmussens modeller i en større kontekst og kategorisert feiltendenser på hvert nivå i «Step-Ladder-Modellen».Denne modellen kaller han «Generic Error-Modelling System».

1.2 «Generic Error-Modelling System»
Det er vanlig å dele menneskelige feil inn i tre klasser: glipper (slips) og feilhandling (mistakes) og unnlatelse av handling. En glipp karakteriseres som en feil som skyldes en eller annen ulykke eller uhell under utførelsen av en ellers riktig beslutning, mens feilhandling innebærere at planen var feil i utgangspunktet (Norman, 1981, Reason og Mycielska, 1982). Feilhandlinger kjennetegnes derfor med feil på et kognitivt beslutnings nivå, enten ved feil målobjekt eller valg av feil strategi. Feilhandlinger er vanligvis mer alvorlige og har større konsekvenser enn glipper.

Reason har videreutviklet Rasmussens «Step-Ladder-Model» til det han kaller «generic error-modelling system » GEMS, (Reason, 1990). GEMS er en forenkling av teoriene til fra Norman (1981) og Reason & Myicielska (1982) som var opphavsmennene til inndelingen av glipper og feilhandlinger, men også Newell & Simon (1972) som har mange teorier innenfor området menneskelig problemløsning og Artifical Intelligence (AI), har påvirket teorien. Hensikten med GEMS er å kunne strukturere de kognitive begrensningene og behov og feil på hvert på trinn i «Step-Ladder» modellen. Teorien tar sikte på å finne de grunnleggende og prinsipielle tendensene, ikke noen spesifikk taxonomi for et bestemt felt. Feilgrupperingene presenterer prinsipper som kan skje over flere situasjoner, men med samme karakteristiske kjennetegn.

Feilfaktorer på ferdighetsnivået karakteriseres med feil utførelse av lærte, automatiserte handlinger. To faktorer er fremtredene, uoppmerksomhet og overoppmerksomhet. Førstnevnte er de ganger operatøren glemmer å utføre nødvendige oppmerksomhets registreringer, mens overoppmerksomhet er de gangene operatøren sjekker på feil tidspunkt i forhold til operasjonsprosessen. Den kanskje vanligste konsekvensen av å glemme er varierende former for «double-capure`slips». Jo oftere og dess mer nylig en bestemt rutine opptrer, dess større er sjansen for at vi utfører akkurat den handlingen selv om det ikke var riktig (Reason & Mycielska, 1982, Reason 1984, Norman 1981). Under drillingoperasjoner offshore er de fleste operasjonene godt innlært, de skrur og flytter på rør i bestemte baner etter gitte prosedyrer. Feil har skjedd når noen gjør forandringer som andre ikke registrerer eller når operatøren har fått beskjed om å ta hensyn til noe nytt i systemet, men likevel gjør det gamle vante.

På regel nivået er det i hovedsak to typer av feil. Operatøren bruker enten feil regel eller bruker riktig regel på feil måte. Mange av de feilene som kan oppstå, kaller Reason «strong-but-now-wrong». Det er på dette nivået vi ser de store forskjellene mellom eksperter og ufaglærte, spesielt i forhold til innlærte handlinger. Ekspertene har ofte lang erfaring og kompetanse, men det kan også være baksiden for dem. De godt lærte prosedyrene kan være feil i forhold til en ny situasjon, men ekspertene holder seg dessverre ved den gamle prosedyren. I tillegg til at feil regel benyttes så er det også en tendens til at dårlige regler benyttes. Det kan være regler som på grunn av andre verdier velges fremfor de optimale. Kanskje de er tidsbesparende eller er behengt med status. Regelnivået preges av en rigiditet mot å bytte regel, en kognitiv konservatisme fordi det er anstrengende å bytte regel. Det krever nemlig kognitiv bearbeiding. Så lenge alle prosedyrer og handlinger går som normalt fungerer systemer bra, men det kan finnes latente feil i systemet. Feil som ligger i situasjonen , men som ikke kommer tilsyne før utløsende faktorer i konteksten påvirkes. Slik sett er det en fare når det aldri skjer små ulykker. Vi kan ikke avsløre eller forberede oss på de virkelige potensielle farerene. Et system som stadig utsettes for dynamiske svingninger og nesten ulykker er bedre rustet til å møte store ulykker enn de miljøene som er statiske og rigide. Skal systemer være sikre er de avhengig av nestenulykker for at systemet ikke skal fryse inn (Reason 1990, Hollnagel 1995).

Feil på kunnskapsnivået skyldes i hovedsak to ting, begrenset rasjonalitet og feilaktige eller mangelfulle mentale modeller av problemområdet. Et beskrivende bilde på dette er å se for seg en spotlight (workspace) på en stor scene, der det kan være tilfeldig eller selektivt valg av personen det lysstrålen fanger inn. Det som fanges inn utgjør operatørens mentale representasjonen av problemet. Feil kan ofte skje fordi et tilfeldig aspekt ved situasjonen fanges inn. Informasjonen gir dermed feil bilde av den faktiske situasjonen. Men like så ofte kan det være mennesket som med selektiv oppmerksomhet velger den informasjonen som bekrefter hypotesene (Wicens, 1993, Reason 1990).

For å kunne treffe et optimalt valg så er det viktig at personen vurderer flere mentale modeller. Mange laboratorium undersøkelser har imidlertid vist at mennesket ikke makter dette, fordi workspace er begrenset. Vi opererer mere etter prinsippet «first in - first out». Operatøren holder fast ved den umiddelbare hypotesen og leter ikke etter tegn og fakta som kunne avkrefte hypotesen. Han ignorerer med andre ord de forhold som ikke er direkte synlig. De data vi registrerte først, har også en tendens til å legge føringer på hva vi senere søker etter, "confirmation bias" (Reason 1990).

For stor grad av overbevisning om egne evner er også en feilkilde på kunnskapsnivået. Vi tror at den endelige problemløsnings-strategien er resultat av nøyaktighet og analytisk vurdering av alle forhold, men det er bare en illusjon, «Check-off -illusion » (Wicens 1993, Reason 1990). Det er vanskelig å oppdage egne feil, men lett å få nøkkelhullperspektiv (Reason 1990). Dette nøkkelhullperspektivet finner vi igjen fra flere ulykkesrapporteringer. Kjernekraftulykker har skjedd fordi operatører har trodd at de hadde kontroll over problemet, men de har dessverre hatt feil hypotese. De ble overrasket da systemet reagerte på en annen måte enn de forventet. Ved Tjernobylulykken ble feil ventiler låst og åpnet med det til følge at feilen utviklet seg til en katastrofe.

Spørsmålet man imidlertid må stille seg er hvor godt modellene til Rasmussen og Reason beskriver operatørens kognitive adferd. Modellene er statiske. De forklarer ikke forandringer i operatøradferd over tid. Modellene er forklarende, men forklaringene fører oss nødvendigvis ikke fremover (Meister & Hogg 1993). Vi ender opp med å konkludere at mennesket er lite pålitelig. Det som kjennetegner mennesket som problemløsnings strateg er «Similarity matching» og «Frequency gambling», vi satser på det vi har gjort før (Reason, 1990, Wickens 1993). GEMS er kontekstfri, Reason antar at spesielle feil-skapende faktorer hos mennesket som påvirker det kognitive systemet (Reason 1990). Den neste modellen, «the cognitive viewpoint» heller i motsatt retning og mener at det er de spesielle karakteristika i konteksten som bestemmer kognisjonsmåten.

1.3 "The cognitive viewpoint"
I siste halvdel av 1980-tallet så var det en voksende gruppe av forskere som gjorde de observasjonene at «procedural prototype models» som bygger på informasjons prosesserings modellene, ikke stemte overens med faktiske forhold. At operatørene ble influert av omgivelsene var åpenbart, men det var vanskelig å inkludere dette i prosesseringsmodellene med noe annet en «hendelse» eller «stimuli». Koblingen mellom miljø og person var manglende (Hollnagel, 1993). En av de som har forsøkt på å integrere disse to faktorene er Brainbridge (1991). Han har foreslått at teorier om menneskelig kognisjon bør modelleres ved hjelp av «kognitive moduler», der en modul refereres til et spesifikt kognitivt mål. Handlingene kontrolleres av kognitive mål, ikke av preprogramerte interne strukturer. De kognitive målene danner sekvenser som er direkte påvirket av omgivelsene.

Det er et viktig poeng ved denne teorien og andre innefor samme retning at mennesket oppfattes som aktivt. Målsettingen er å danne seg et helhetlig inntrykk av atferden og kognisjonen slik den opptrer, heller enn å spekulere i hypotetiske mekanismer som ligger bak (Hollnagel 1993). Den kognitive retningen er blitt eksemplifisert og forklart innenfor «cognitive system engineering» der de tar avstand fra de tidligere metaforene:

«The main difference from the S-O-R and the IPS (Information Processing) metaphors is that cognition, witch in all cases is considered to be the basic phenomenon to explain, is vied as active rather than re-active, for instance as a set of self-sustained process or function that occur simultaneously. The consequence of the cognitive viewpoint is to focus on overall performance as it appears rather than on the mechanics of performance» (Hollnagel 1993, s.150).

De kontekstavhengige kontrollmodellene kan beskrives ut i fra to hovedbegrep: kompetanse og kontroll. Kompetanse er de kunnskaper og egenskaper individene besitter og de karakteristiske grupper av handlinger vi har lært (templates). Et viktig aspekt er imidlertid at en handlingssekvens kan deles inn i mindre deler og forandres dynamisk i forhold til konteksten. Innefor den kognitive synsmåten er det viktig å poengtere at kognisjonen ikke opererer på bestemt nivå men i sirkulære bevegelser. Kontroll aspektet knyttes både til hvordan vi velger handling og hvordan vi velger å utføre dem, for å nå et bestemt mål. Modellen presenterer fire kognisjonsmåter som involverer kontroll (control modes), "scrambled", "opportunistic", "tactical" og "strategic". Disse fire kontroll områdene er ikke inndelt i adskilte nivå, de har et kontinuerlig forhold til hverandre (Hollnagel 1993).

Ulike faktorer i miljøet kan være avgjørende for hvilket kontrollområdet operatøren befinner seg i. Når operatøren er inne i «Scrambled Control» kan vi ikke forutsi hvordan neste handling vil utarte seg. Atferden er fullstendig upredikerbar eller tilfeldig. Mennesket følger en blind prøve og feil metode, uten aktive kognitive analyser. Operatørens adferd karakteriseres med handlingslammelse og manglende kontroll. Typiske eksempel fra «Scrambled Control»er mennesker i panikk. Der kognisjonen er mer eller mindre paralysert med liten eller ingen korrespondanse mellom situasjon og handling. Denne kognisjonsmåten opptrer ikke ofte.

Det er naturlig å anta at det kan være store individuelle forskjeller, men det har også skjedd at rutinerte flygere for eksempel har fått panikk i ukjente situasjoner eks. flyulykken på Tenerife 1977.

Kognisjonen ved «Opportunistic Control» innebærer kognitive operasjoner der handlingsvalg blir tatt på grunnlag av den inneværende konteksten alene. Langsiktige mål og intensjoner blir ikke inkludert. Eksempler er situasjoner der operatøren opplever et sterkt tidspress som medfører at han må ta valg før situasjonen er tilstrekkelig forstått. Handlingene blir derfor ikke fullstendig planlagt. Fenomenet kalles «focus gambling», fordi operatøren må satse på strategi fra et begrenset fokus. Kognisjomsmåten kjennetegnes med at det er et misforhold mellom faktisk kunnskap og den valgte handlingen. Operatøren kan på et teoretisk plan løse oppgaven, men blir i den konkrete hektiske situasjonen villedet av perseptuelle signaler (blinkende lys, alarmer etc) eller tidligere erfaring (vaner). Dette tilsvarer Reason begreper similarity matching og frequency gambling (Reason, 1990). "Opportunistic control" karakteriseres med en kognisjonsmåte der operatøren har utilstrekkelig kontroll. Årsaken til at operatøren i et kontrollrom ikke har tilstrekkelig kontroll kan imidlertid være mange. Forstyrrende telefoner, folk som kommer inn og ut av kontrollrommet, unødvendig informasjon på kontrollpanelet eller dårlig alarmsystem. Alt dette medfører en stor mental arbeidsbelastning. Konteksten gir med andre ord ikke rom for full analyse.

Når operatøren planlegger handlingen fra et større perspektiv enn den umiddelbare situasjonen, benytter han en kognisjonsmåte som kommer inn under den tredje gruppen, «Tactical Control». Problemløsninger sees da fra en videre horisont og vurderes i et mer langsiktig perspektiv, men løsningen er ennå sterk influert av konteksten. Planleggingen vil alltid være begrenset og må gjerne ta flere vendinger for å tilfredsstille de løpende krav som omgivelsene stiller. Planlegging ved denne kognisjonsmåten vil ofte bli noe ad hoc preget. Om enkelte strategier brukes ofte så kan «Tactical Control» korrespondere med regelnivået til Rasmussen. Den underliggende antagelsen er imidlertid likevel forskjellig. Ved «Tactical Control» bestemmes strategi på grunnlag av likhetstrekk mellom handling og kontekst, ikke av en «naturlig» strategi for bestemte situasjoner. Det er mindre feilprosent på denne kontroll måten enn de to foregående. Feilhandlinger i denne kontrollformen griper ofte inn i organisatoriske aspekter. Har ledelsen i organisasjonen lagt til rette for at operatøren kan ta langsiktige beslutninger, har han tilstrekkelig informasjon og myndighet. Er det teknologiske utstyret i den tilstand det skal, eller må operatøren ta nødmanøvrer? Dette er aspekt som avgjør hvor mye kontroll en operatør kan ha. Skjulte faktorer i systemet er også noe Reason har beskrevet. Han bruker begrepet latente feil, som er små eller store feil som kan ligge i dvale på flere nivå. I organisasjonen, under design av teknisk utstyr, ved opplæring eller i prosedyrene som å neven noen sentrale. Det er gjerne summen av diss ufarlige og usynlige småfeil som kan være årasken til en stor ulykke, men desverre er det som regel mennesket som står i frontlinjen og utløser hele hendelsen. At det ikke taes hensyn til latente feil ser vi fra den "vedtatte" regelen som sier 80 % menneskelig svikt og 20% teknisk.

«Strategic Control» betyr at personen inkluderer den totale konteksten. Han bruker en vid horisont og ser fremover på langsiktige mål. Kognisjonen er mindre influert av den direkte kontakt med omgivelsene. Kontrollformen er mer robust og effektiv enn de andre og er idealet man skal sikte etter. «Strategic Control» influeres sterk av operatørenes kompetanse. Men å ha kunnskaper er nødvendigvis ikke det samme som å kunne bruke dem. Kunnskap om rekkefølge på handlinger kan være svært avgjørende om strategiene skal bli mest mulig målstyrt. I denne kontrollformen har operatøren tenkt igjennom forløpet på forhånd, han må ikke gå tilbake noen skritt på grunn av usikker planlegging. Kognisjonmåten er «perfekt» i den forstand at den tar med alle aspekter i konteksten. Den ser både fremover og bakover i tid, i tillegg til at operatørene i denne kontrollformen har et høyt kompetansenivå. Det kan være vanskelig å finne eksempler på denne kontrollformen, fordi det nettopp dette vi ønsker å finne ut med forskningen. Interface og maskiner som kan hjelpe operatøren til å se hele konteksten og eventuelle konsekvenser jobbes det mye med (hjelpeprogrammer). Vanskeligheten ligger i å finne balansen mellom det maskinene skal gjøre og menneskets rolle. Kombinasjonen mellom menneske og maskin kan være optimal, men kan også være skjebnesvanger. Vi skal nå se nærmere på noen av problemene og mulighetene mellom mennesket og maskin.

2. Når menneske og maskin skal kommunisere
Menneske-maskin systemer er en kombinasjon av et eller flere mennesker, og en eller flere fysiske komponeneter som samhandler for å skape et produkt (Sanders, McCormic, 1995). Kommunikasjon mellom menneske og maskin skiller seg på mange måter ikke stort fra kommunikasjon mellom mennesker. For at kommunikasjon skal fungere er vi avhengig av at partene forstår hverandre og stoler på hverandre. At de befinner seg i samme kontekst og benytter seg av den samme mentale modellen. Vi må ta hensyn til egenskapene til aktørene, og det er store og vesentlige forskjeller mellom mennesket og maskinen. Mennesket er svært fleksibelt, har god evne til å korrigere sin adferd i tillegg til at det kan bearbeide store mengder informasjon. På den annen side kan mennesket sin kreativitet medføre mindre pålitelighet. Maskinene er mer pålitelige. De er preprogramert for nøyaktige spesifikke funksjoner. De er sensitiv til feil input og har liten evne til selvkorreksjon. Vi kan si at maskinene fungerer i et lukket system, mens mennesket er en åpen modell. Å lage systemer som tar hensyn til partenes egenskaper er en utfordring (Grorud, Tveit, Wright, 1982).

Ofte blir begrepet pålitelighet brukt i forhold til menneske-maskin kommunikasjon. Der mennesket er den upålitelige parten. Det er i følge Hollnagel (1991) mulig å eliminere konseptet om reliabilitet ved å lage følgende distinksjoner mellom reliabilitet, robusthet og tilpasningsevne. Reliabilitet er systemets (menneske-maskin) evne til å utføre påkrevde funksjoner under ulike betingelser i løpet av en gitt tid, slik at de rette funksjonene kommer til rett tid. Robusthet er systemets evne til å utføre de bestemte funksjonene i situasjoner det ikke er konstruert for, å gjøre det samme under ulike forhold. Tilpasningsevne er systemets evne til å utføre funksjonene under betingelser der de vanlige prosedyrene ikke kan benyttes. Å gjøre noe nytt når betingelsene forandres. Distingsjonen ovenfor kan knyttes opp mot de kognitive teoriene som er blitt beskrevet. For at en funksjon skal komme til rett og riktig tid er vi avhengige av at handlingen er godt innlært (skillbased), i tillegg må aktøren ha kunnskap nok om situasjonen (tactical control). For å utføre handlinger systemet ikke er konstruert for så må ny kunnskap innhentes (skillbased). For å kunne tilpasse seg må også operatøren kunne evaluere regler og prosedyrer (rulebased). Vi ser sammenhengen mellom konteksten og kognisjon.

Menneskelige faktorer er spesielt viktig ved robusthet og tilpasningsevne. Det er nettopp de menneskelige egenskapene som kan sørge for et reliabelt system. Mennesket evne til å tenke nytt og finne frem til strategier som kan gi det rette sluttresultat uten spesifikke preprogrammeringer. Systemet er faktisk avhengig av feil for å kunne bli robust. Statiske organisasjoner eller system er ikke forberedt på uventede hendelser. Aktørene i en passiv observatør rolle er ikke vant til å tenke kreativt. Slike system er de farligste. Systemet bør være dynamisk og integrerer begge parter i prosessen via effektiv kommunikasjon og tilpasning. Tilpasning kan forgå på flere plan. Via opplæring, design, utførelse eller organisering (Hollnagel 1995).

Mange forsøker å lage dynamiske interaktive menneske-maskin system. Systemer som tar hensyn til menneskenes kapasitet og behov og som også gjør en direkte interaksjon mellom partene mulig. Interaksjon mellom menneske og maskin kan sikre at de har samme kognitive modell, at de er “in the loop”, mens automatisering med dårlig feedback kan medføre at partene blir “out of the loop” . Et problem med automatisering er at mennesket mister oversikt over prosessen. Den eneste måten de kan kommunisere på er via den feedback maskinen gir. Er denne mangelfull eller dårlig så øker faren for misforståelser. Mens maskinen er konstruert til å svare på input på en bestemt måte, så kan mennesket forstå et budskap på mange måter. I tilfeller der operatøren må ta en manuell nødmanøver, så kan det være stor fare for at maskinen reagerer på en annen måte enn forventet. Sistnevnte er rettet mot det såkalte "ironies of automatisation", at komplekse automatiserte systemer har økt antall feil heller enn å minske dem. Systemer har blitt så komplekse og vanskelig å håndtere at mennesket mister oversikten (Norman 1990). I Japan krasjet et China Airlines A-300/600 Airbus under landing. Mannskapet hadde da satt i gang en automatisk prosedyre som fikk flyet til å stige i høyde. Samtidig dro de kontrollspaken ned manuelt, for å hindre at flyet skulle stige. Dette ga en konflikt mellom de manuelle kommandoer og autopilotens kommandoer, og som førte til at flyet styrtet (Degani, Shafto, Kirlik, 1994). Mange ulykker har nettopp skjedd på denne konflikterende måte.

Kanskje trenger vi en mer avansert form for automatisering? En mer intelligent maskin som kan kommunisere med omgivelsene? En teknologi som kan reagere variabelt på mennesket input til den. Eller trenger vi teknologiske systemer som er så robuste at de kan håndtere feilhandlinger? Som er konstruert slik at uforutsette feil kan rettes opp før ulykken inntreffer. Burde menneske-maskin systemer designes slik at det gir personen nok tid og hjelpemidler til å rette opp feilen? Det ville gitt bedre utgangspunkt for kommunikasjon. Tid og hjelpesystemer som stipulerer hypoteser og deres konsekvenser, kan redusere effektene av operatørenes sneversyn. "Similarity matching" og "frequency gambling" blir mindre dominerende. Tid og relevant feedback vil gi aktøren mer innblikk, kontroll og tillit til systemet.

Ekspansjonene av automatisering innenfor industri har flyttet rollen til aktørene seg fra å være operatør til passiv kontrollør. Erfaringer har vist at system med kombinasjonen mennesker og maskiner er mer effektive enn med en av dem alene. Det vanskeligste er å finne ut hvordan arbeidet mellom partene bør deles. Deling av funksjoner skal kunne tilpasses systemet og omgivelsenes krav. Vi kan finne eksempler på ingeniører som har forsøkt å eliminere mennesket fullstendig, men det er nå en voksende enighet om at det er viktig å inkludere de menneskelige egenskapene i industrielle prosesser (Sanderson, 1989).

Eksperimenter har vist at tillit til automatiserte maskinener kan være et problem og operatørenes selvtillit og tro på egne evner til å styre systemet manuelt. Muir (1987) mente at man kan forstå noe av samspillet mellom menneske og maskin ved å stille operatørene spørsmål på om de stole på de automatiserte maskinene. Hun gjennomførte en rekke eksperimentere med et simulert kontrollrom fra kjernekraft. Den var designet slik at operatørene kunne velge om de ville la automatiseringen styre eller om de ville overta manuelt. Eksperimentatorene hadde lagt inn feil både på den manuelle siden og den automatiserte. Hensikten var ikke å finne ut om det klarte oppgaven, men å se på hvordan de løste den. Resultatene viste en klar trend mot at eksperter på feltet gikk oftere over fra automatisert til manuell handtering når kompleksiteten ble høy. De konsentrerte seg om få skjermbilder, selv om disse gav lite eller irrelevant informasjon. De klarte ikke å avvike fra hypotesen sin, de fikk med andre ord sneversyn. De med mindre erfaring derimot overlot styringen til automatikken, også i de tilfeller der årsaken til feilen var i selve automatikken. Det var en sammenheng mellom tillit til systemet, erfaring og kunnskap og automatikkens kompleksitet. Operatørene som hadde erfaring ble forvirret av automatiseringen og stolte heller på egne evner og erfaring. Mens de med liten erfaring stolte mer på automatikken enn egne evner. Resultatene fra Muir eksperimenter kan gi oss prediksjoner på hvordan mennesket kommer til å håndtere kompleksitet, og resultatene kan gi signaler på funksjonsfordeling mellom menneske og maskin. I tillegg har hun vist et sosial psykologisk aspekt ved menneske-maskin kommunikasjon. Under opplæring bør operatørene bli seg bevisst hvilket forhold de har til maskinen og egne evner i forhold til den. Det bør ifølge Muir, utvikles treningsprogram som tvinger operatøren til å ta reelle valg mellom egen styring og automatikkens styring (Moray, Hiskes, Muir 1995).

Tillit til systemet har med av kontroll å gjøre. Muir sine eksperimenter sier derfor noe av det samme som både Norman, Reason, Rasmussen og Hollnagel poengterer fra forskjellige synsvinkler. Systemer må gi god informasjon, gi mulighet til kontroll, gi rom for oppretting av feil og sikre at operatørens mentale modell er den riktige for problemet. Ulike ekspertsystemer er ofte utviklet til komplekse automatiserte prosesser. Systemer som skal hjelpe operatøren til å ta valg, som stipulerer eventuelle konsekvenser. Slike systemer blir ofte ikke brukt slik de var tiltenkt (Wickens, 1993). Det aktuelle problemet skiller seg ofte litt fra løsningen i hjelpeprogrammet. Menneskene stoler mer på egen vurderingsevne, enn døde symboler fra en maskin. Tillit til systemet er derfor et viktig ledd i utvikling av nye former for menneske-maskin kommunikasjon.

God kommunikasjon krever at partene forstår hverandre. Mange systemer i dag preges mere av fremmedgjøring. God kommunikasjon krever også at partene er interessert i hverandre. Operatøren kommuniserer passivt med skjermer og tall som de ikke har hele oversikten over. Kjedsomhet kan derfor være et problem for operatører i kontrollrom. De blir sløve og reagerer ikke som de skal, i tillegg til at oppmerksomhet til omgivelsene, "Situation awareness" blir redusert. Det er derfor mange som mener at grensesnittet for prosesstyring bør forandres. Heller enn koder og tegn så kunne man tenke seg avbildninger basert på trykk, temperatur, flow etc. inn i dynamisk 3D bilde som visualiserer mål og betraktninger for prosessen som styres. Muligens kan et slikt grensesnitt kunne utnytte menneskets evne til tett dynamisk interaksjon med systemet på samme måte som i et videospill.

Det er forholdsvis enkelt å nedtegne alt som burde vært tilrettelagt i mellom mennesket og maskinen, vanskeligere er det å lage konkrete modeller. Vi er avhengig av gode modeller av aktørenes kognisjon. De datasimulerte modellene som Soar, ATC* og UT er svært anvendelige ved utprøving og design av nye menneske-maskin systemer. Artifical Intelligence har også blitt benyttet i forsøk på å lage intelligente datamaskiner og intelligente ekspert system. Intelligente hjelpesystem skaper en ny situasjon for operatørene. Ikke bare skal de samarbeide med hverandre men også kommunisere med maskinen som en tredje part. Situasjonen resulterer i en kryss kommunikasjon mellom mennesker og maskiner (Bellorini et al., 1991). En måte å benytte hjelpesystemer på er å innføre arbeidsfordelinggssystemer. Et intelligent system som fordeler arbeidsoppgaver etter operatørenes kunnskap, mentale arbeidsbelastning (mental workload) og funksjon. Et intelligent arbeidsfordelingessystem, basert på A.I, er prøvd på simulerte flytårn. Hjelpesystemet, SAINTEX, fungerte på den måten at den fordelte oppgaver ut til operatørene på grunnlag av deres kunnskap, kompetanse og mental workload i situasjonen. Men også operatøren kunne direkte gripe inn SAINTEX og delegere oppgaver til maskinen eller andre i systemet. Oppgavene ble sendt ut i et kø-ordningssystem og plassert ut til den riktige operatøren. Erfaringer fra dette eksperimentet viste at den dynamiske interaksjonen mellom menneske og maskin forbedret situasjonen for operatørene. Men også her fant man at samarbeidet var påvirket av tillit og selvtillit i forhold til automatiserte system (Dedernard, Vanderhaegen, Millot, 1992).

--------------------------------------------------------------------------------

Oppsummering
Som vi har fått presentert fra ulike retninger så er forholdet mellom menneske og maskin svært komplekst. Noen feilhandlinger skyldes menneskets tendenser til å glemme eller at de bruker feil regel, mens det i andre situasjoner helt klart kan være faktorer i omgivelsene som reduserer menneskets adferd. Vanligvis kan vi ikke trekke noen klare konklusjoner om årsaksforhold. Derfor er blant annet Reason sitt begrep om latente feil anvendelig. Problemet med teoriene er imidlertid at de er tilbakeskuende. De kan forklare hvorfor en hendelse har skjedd, men har lav prediksjonsverdi. Ingen ulykke er lik den forrige, det vil alltid være summen av flere uforutsette hendelser som er årsak. Men psykologisk forskning har mye å tilføre. Spesielt under design av nytt utstyr. Vi har også sett at psykologisk kunnskap har fokusert på nye områder. Blant annet på at operatørenes kjedsomhet i automatiserte systemer kan medføre ulykker og at tillit til systemet kan predikere adferd. Både tradisjonelle informasjons prosesseringsmodeller og nyere modeller gir oss et teoretisk fundament som vi kan bygge videre på.

--------------------------------------------------------------------------------

Referanser
Anderson, J.R. (1983), The architecture of cognition. Cambridge, MA:Harvard University Press.

Bellorini, A., Cacciabue, P.C., Decortis, F. (1991). Validation and development of a cognitive model by field experiments: Results and lesson learned. Paper presented at the Third European Conference Cognitive Approaches to Process Control. Cardiff, UK.

Bobrow, Norman, D (1975) Some principles of memory schemata. In D.G.Bobrow and A.Collins (Edt), Representation and Understanding, Studies in Cognitive Science, New York: Academic Press.

Brainbridge, L. (1991). Mental models in cognitive skill: The example of industrial processoperation. In Hoc, J.M., Cacciabue, P.C., Hollnagel, E (1995), Expertise and Technology: Cognition & Human-Computer Cooperation, New Jersey:LEA.

Bridger, R.S., (1995), Introduction to Ergonomics. New York: McGraw Hill Inc.

Cacciabue, P.C., Decortis, F., Mancini, G., Masson, M., Nordvik, J.P., (1989), A cognitive model in a black board architecture: Synergism of AI and Psychology. Paper presented at the Second European Conference on Cognitive Science Approaches to Process Control, Siena, Italy.

Cacciabue, P.C., Decortis, F., Drozdowicz,B., Masson, M., Nordvik, J.P., (1992), COSIMO: A cognitive simulation model of human decision making and behavior in accident management of complex plants. IEEE Transactions on Systems, Man and Cybernetics, 22, 1058-1074.

Degani, A., Shafto, M. Kirlik, A (1995). Mode usage in automated cockpits: some initial observations. Http://olias.arc.naca.gov/publications/mode/_usage/mode_usage.html

Debernard, S., Vanderhaegen, F., Millot, P., (1992).In Hoc, J.M., Cacciabue, P.C., Hollnagel, E (1995), Expertise and Technology: Cognition & Human-Computer Cooperation, New Jersey:LEA.

Grorud, H.F., Tveit, O.J., Wright, J.F., (1982), Man in a technical environment. oslo: Det norske Veritas

Hoc, J.M., Cacciabue, P.C., Hollnagel, E (1995), Expertise and Technology: Cognition & Human-Computer Cooperation, New Jersey:LEA

Hollnagel, E (1991), Cognitive ergonomics and the reliability of cognition, Travail Humain, 54, 305-321.

Hollnagel, E (1993), Human Reliability Analysis: Context and control

Hollnagel, E (1995), In Hoc, J.M., Cacciabue, P.C., Hollnagel, E (1995), Expertise and Tecnology: Cognition & Human-Computer Cooperation, New Jersey:LEA

Muir, B.M., (1989), Trust between humans and machines, and the design of decision aides. International Journal og Man-Machine Studies, 27, 527-539.

Moray, N., Hiskes D., Muir, B.M. (1995) Expertise and Technology, Cognition and Human-Computer Cooperation, LEA, Hilldale, New Jersey.

Newell, A., Simon, H.A. (1972), Human Problem Solving. Englewoood Cliffs, NJ: Prentice-Hall.

Newell, A., Simon, H.A. (1990), Unified theories of cognition. Cambridge, MA: Harvard University Press.

Norman, D.A. (1981), Categorization of action slips. Psychological Review, 88, 1-15.

Norman, D.A. (1988), The psychology of everyday things, BasicBooks, USA

Norman, D.A. (1990), The "problem" with automation: inappropriate feedback and interaction, not "over-automation". In D.E.Brodabent, A.Baddeley and J.T Reason (Edt) , Human Factors in Hazardous Situations. Oxford Science Publications.

Rasmussen, J., Duncan,K., Leplat, J. (1987), New Technology and Human Error, John Wiley & Sons Ltd

Rasmussen, J (1986), Information Processing and Human-Machine Interaction, Amsterdam: North-Holland

Reason, J.T., Mycielska, K (1982), Absent-Minded? The Psychology of Mental Lapses and Everyday Errors. Englewood Cliffs, NJ: Prentice-Hall.

Reason, J.T (1989), Management and risk management: Research issues, Human reliability in nuclear power, London, IBC Technical Services Ltd.

Reason, J.T (1990), Human Error, Cambridge University Press.

Reason , J.T (1979), Actions not as planned: The price of automatization. In G. Underwood & R.Stevens (Eds), Aspect of Consciousness, Volume 1: Psychological Issue. London: Wiley.

Sanders, M.S & McCormick, E.J., Human factors in Engineering and design, McCraw-Hill Inc.

Sanderson, P.M., (1989), The Human planning and scheduling role in advanced manufacturing systems: an emerging human factors role. Human Factors, 31, 635-666.

Wickens, C.D, (1993), Engineering Psychology and Human Performance, Harper Collins Publishers.

Wood, Roth (1988), In Hoc, J.M., Cacciabue, P.C., Hollnagel, E (1995), Expertise and Technology: Cognition & Human-Computer Cooperation, New Jersey:LEA.