Human Error and Designing for Error

แหล่งข้อมูล: _wiki/semantic/human-error-is-bad-design.md, _wiki/semantic/human-error-slips-and-mistakes.md, _wiki/procedural/designing-for-error.md, _wiki/procedural/five-whys-root-cause-analysis.md, _wiki/episodic/error-cases.md, raw/source-notes.md

1. THE BIG IDEA

มนุษย์ผิดพลาดเป็นเรื่องปกติ ระบบที่ดีต้องคาดว่าความผิดจะเกิด ลดโอกาสเกิด ทำให้เห็นเร็ว แก้ง่าย และไม่ปล่อยให้ความผิดเดี่ยวกลายเป็นหายนะ การพูดว่า "human error" มักเป็นจุดหยุดคิดที่อันตราย

2. FIRST PRINCIPLES BREAKDOWN

Principle: Error is information about the system

ถ้าคนจำนวนมากผิดแบบเดิม สิ่งนั้นบอกว่า design เปิดช่องหรือ induce error

ถ้าละเลย: องค์กรจะ blame/train ซ้ำ โดย error เดิมกลับมาอีก

Principle: Slips and mistakes need different remedies

Slip คือ goal ถูกแต่ execution ผิด; mistake คือ plan/goal/diagnosis ผิด

ถ้าละเลย: จะใช้ confirmation กับทุกอย่าง ทั้งที่ slip อาจต้องการ control distinction/undo ส่วน mistake อาจต้องการ better model/information

Principle: Recovery matters as much as prevention

ต้องมี undo, sensibility checks, easy correction, layers of defense

ถ้าละเลย: ระบบจะ fragile ต่อความผิดเล็ก ๆ

3. THE MENTAL MODEL

error
  ├─ slip: correct goal, wrong execution
  │    ├─ action-based
  │    └─ memory-lapse
  └─ mistake: wrong plan/goal/diagnosis
       ├─ rule-based
       ├─ knowledge-based
       └─ memory-lapse

Design response:

• Slip: make controls distinct, reduce modes, visible mode, feedback, undo, constraints
• Mistake: improve conceptual model, information, root-cause understanding, sensibility checks
• Accident: assume multiple causes; use Swiss-cheese layers

4. WORKED EXAMPLE

กรณี Airbus descent accident:

1. นักบินตั้งค่าที่คิดว่าเป็น descent angle
2. ระบบอยู่ใน vertical-speed mode
3. ค่า -3.3 ถูกตีความเป็น -3,300 ft/min
4. นี่คือ mode error: control เดียวมีความหมายต่างตาม mode
5. Remedy ไม่ใช่บอกนักบินให้ระวังขึ้นเท่านั้น
6. Design ต้องทำ mode visible ชัด แยก display ของ angle vs speed ให้ต่าง และลด ambiguity ของ input

กรณี F-22 ชี้อีกชั้น: การหยุดที่ "pilot failed to recover" ซ่อนคำถามว่าทำไมเขาอาจไม่สามารถ act ได้ เช่น oxygen deprivation

5. COMMON MISTAKES

Mistake 1: หยุด RCA ที่ human error

ทำไมคนพลาด: การโทษคนให้คำตอบเร็วและรู้สึกจบ

ความเข้าใจที่ถูก: ต้องถามต่อว่าทำไม action นั้นเป็นไปได้/ง่าย/ไม่ถูกจับก่อนเกิดผลเสีย

Mistake 2: ใช้ warning เยอะขึ้น

ทำไมคนพลาด: Warning ดูเหมือนแก้ responsibility

ความเข้าใจที่ถูก: Alarm noise ทำให้คน ignore/disable ได้ Warning ต้องสำคัญ coordinated และสื่อ nature ของเหตุการณ์

Mistake 3: เชื่อว่า automation เอาคนออกจาก error

ทำไมคนพลาด: Automation ทำงานซ้ำ ๆ ได้ดีมาก

ความเข้าใจที่ถูก: Automation paradox คือมันมัก fail ตอนซับซ้อนและอาจไม่เตือน ทำให้คน out of the loop เช่น Royal Majesty

6. CONNECT TO OTHER TOPICS

Depends on: seven stages, conceptual models

Enables: safer systems, root-cause redesign, resilience engineering

Often confused with: error vs deliberate violation

How to tell apart: error คือ deviance ที่ไม่ตั้งใจ; deliberate violation คือรู้ว่าเสี่ยงแต่ตั้งใจเบี่ยงจาก rule

7. SELF-TEST

Surface: Slip กับ mistake ต่างกันอย่างไร

Strong answer: Slip คือ goal/plan ถูกแต่ execution ผิด; mistake คือ plan/goal/diagnosis ผิดแม้ execution อาจถูก

Understanding: ทำไม confirmation dialog มักไม่ใช่คำตอบที่ดีที่สุด

Strong answer: คนคาดว่าจะเห็น dialog แล้ว click-through ได้ โดยเฉพาะถ้า dialog ไม่ทำให้ object/consequence ชัด Better remedy คือ undo, save recovery, หรือ make irreversible action hard

Mastery: เลือก error case หนึ่งอย่าง แล้วทำ Five Whys โดยไม่หยุดที่คนผิด

Strong answer: ขุดจาก proximate error ไปถึง system condition เช่น mode visibility, interruption, time stress, missing feedback, weak constraints, หรือ poor model

8. KEY QUOTES FROM SOURCE

• "Eliminate the term human error."
• "Blame and train."
• "Fail frequently, fail fast."

9. TL;DR

• Human error มักเป็น design/system error ที่ยังไม่ได้ขุด
• Slips กับ mistakes ต้องแก้คนละแบบ
• ระบบที่ดีทำให้ผิดยาก เห็นเร็ว แก้ง่าย และไม่พังจากความผิดเดียว