측정값 판단부터 계산 결과 반올림까지 — 실험보고서에서 가장 많이 감점되는 유효숫자 오류를 예시로 정리했습니다.
측정의 정밀도를 숫자로 표현하는 약속
유효숫자(significant figures)는 측정값에서 의미 있는 자릿수를 뜻합니다. 실험보고서에서 유효숫자가 중요한 이유는 단순합니다 — 숫자를 얼마나 정밀하게 적었는지가 곧 측정 기기와 실험자가 얼마나 신뢰할 수 있는 데이터를 얻었는지를 보여주기 때문입니다. 뷰렛으로 15.21 mL를 읽었는데 보고서에 "15 mL"라고 쓰면, 실제로는 0.01 mL 단위까지 읽을 수 있었던 정밀도 정보를 스스로 버리는 셈입니다.
0을 어떻게 셀 것인가가 핵심
유효숫자를 셀 때 가장 헷갈리는 부분은 0의 처리입니다. 아래 규칙만 기억하면 대부분의 케이스를 판단할 수 있습니다.
| 규칙 | 예시 | 유효숫자 |
|---|---|---|
| 0이 아닌 숫자는 모두 유효 | 123.45 | 5개 |
| 숫자 사이의 0은 유효 | 1005 | 4개 |
| 소수점이 있을 때 뒤쪽 끝 0은 유효 | 15.20 | 4개 |
| 소수점 없는 정수의 끝 0은 불명확 (지수 표기 권장) | 1500 | 2~4개 (모호) |
| 맨 앞의 0은 유효숫자 아님 | 0.0025 | 2개 |
| 지수 표기의 계수 부분만 판단 | 1.50 × 10³ | 3개 |
1.500 × 10³처럼 지수 표기로 명확히 하는 것이 안전합니다.
덧셈·뺄셈과 곱셈·나눗셈의 규칙이 다릅니다
실험 결과 계산에서 가장 많이 틀리는 부분입니다. 두 가지 규칙만 구분하면 됩니다.
기구가 읽을 수 있는 최소 단위까지가 유효숫자입니다
유효숫자는 결국 측정 기기가 실제로 구별할 수 있는 최소 단위에서 나옵니다. 아래는 화학 실험에서 자주 쓰는 기구의 일반적인 정밀도입니다. 학교·기구마다 다를 수 있으니 실제 눈금을 확인하세요.
| 기구 | 일반적 정밀도 | 기록 예시 |
|---|---|---|
| 뷰렛 (50 mL) | 0.01 mL (눈금 0.1 mL의 1/10 추정) | 15.21 mL |
| 부피 피펫 (25 mL) | 0.01 mL | 25.00 mL |
| 전자저울 (일반) | 0.001 g 또는 0.0001 g (기종별 상이) | 1.2453 g |
| 메스실린더 | 가장 정밀도가 낮음 — 최소눈금의 1/10 추정 | 24.5 mL |
| 온도계 (아날로그) | 최소눈금의 1/10 추정 (보통 0.1℃) | 23.4 ℃ |
채점자가 바로 알아채는 유효숫자 실수 3가지
리코랩 기기분석 템플릿에 데이터를 붙여넣으면 계산과 그래프가 자동으로 완성됩니다.