분석화학, 그 첫 번째 이야기 | 측정과 유효숫자

보통 화학책을(ex. 줌달의 일반화학) 사서 맨 앞장을 펴보면 나오는 내용은 측정의 방법, 단위의 개념, 유효숫자의 처리 방법이다. 이는 어렵지 않음에도 복잡하고, 귀찮지만, 실제 실험을 하고 데이터 처리를 하게 되면 굉장히 중요하게 다뤄지는 부분이므로 확실한 개념정리를 요하는 부분이다.

위쪽의 사진은 액체가 담겨 있어 측정이 가능한 상태의 뷰렛이다. 
(물론 뷰렛에서 액체를 측정할 때는 잠금장치부터 액체가 나오는 입구까지 모두 액체가 차있는 상태를 만들어야 한다.)
이 눈금의 값을 읽어보면, 눈금은 20과 21 사이를 1/10단위로 나누고 있다. 즉, 눈금의 최소단위는 0.1ml임을 알 수 있다. 이런 측정기구를 가지고 눈금을 읽을 때는, 최소단위의 1/10, 즉 0.01ml단위로 어림하여 읽어야 한다. 
따라서 위의 그림의 눈금을 읽어보면 20.15ml라고 읽을 수 있다.

이렇게 측정을 할 수 있게되면, 유효숫자의 개념도 자연스럽게 이해할 수 있다. 유효숫자는 단어에서 알 수 있듯이 유효한 값을 가지는 숫자를 말한다. 앞에서 측정한 20.15ml는 2, 0, 1, 5로 유효숫자가 4개라고 할 수 있다. 이런 유효숫자는 다음과 같은 규칙에 따라서 정한다.

 

1. 0이 아닌 숫자는 항상 유효숫자로 취급된다.
2. 수가 0으로 시작해서 이어지는 경우는 유효숫자가 아니다.
   (예를 들어, 0.0025는 앞의 0은 제외하고 유효숫자가 2자리이다.)
3. 0이 아닌 숫자 뒤에 0이 이어지지만, 소수점이 없으면 유효숫자가 아니다.
   (예를 들어, 100의 경우는 뒤의 0은 제외하고 유효숫자가 1자리이다.)
4. 0이 아닌 숫자에 0이 둘러쌓여 있으면 유효숫자로 취급한다.
5. 0이 아닌 숫자 뒤로 0이 계속 이이지고, 소수점이 존재하면 유효숫자이다.
   (예를 들어, 10.00은 유효숫자가 4자리 이고, 0.00250은 유효숫자가 4자리이다.)
6. 완전수는 유효숫자가 무한히 많은 것으로 생각한다.
   (예를 들어 수학 공식에서 자주 등장하는 π=3.141592....는 완전수이며, 유효숫자는 무한히 많다.)

 

이와 같은 규칙으로 각각의 수가 유효숫자가 몇자리인지 알게 되면, 그러한 값들을 가지고 계산을 할때 유효숫자가 몇자리인지 알아야할 필요가 있다. 유효숫자를 포함하여 계산할 때는 기본적으로 표기된 값들을 전부 계산한 후, 마지막에 유효숫자를 고려하여 표기를 해주면 된다. 연산에서 유효숫자는 다음과 같은 방법으로 처리한다.

 

• 덧셈, 뻴셈의 경우에는 소수점 뒤로 숫자가 적은 것을 기준으로 유효숫자를 처리한다.
  (예를 들어, 100.0+55.25이면 계산결과는 155.25이지만 소수점 첫째자리 까지만 계산하여 155.3이 된다.)
• 곱셈, 나눗셈의 경우에는 계산을 끝낸 후에 유효숫자가 적은 것에 맞추어 유효숫자를 처리한다.
  (예를 들어, 3.21*0.52=1.6692이지만 유효숫자가 더 적은 0.52의 2자리에 맞추어서 1.67로 처리한다.)

 

여기까지가 유효숫자를 처리하는 기본적인 방법이지만, 유효숫자는 계산과정에서 실수가 나오기 쉽다. 예를 들어 뻴셈을 계산할 때 100.5-52=48.5이지만 계산은 이 값을 그대로 넣어서 처리하되, 유효숫자는 52를 따라가서 2자리로 이후에 처리해주어야 한다. 그 밖에도 $10^n$을 이용해서 숫자를 표기한 것이 여러번 나오는 식에서 덧셈, 혹은 뻴셈을 계산할때는 $n$의 값이 큰 것에 모두 맞추어서 계산해서 소수점 을 이용해 유효숫자 처리를 해야한다.
이처럼 개념이 애매한 부분이 생각보다 많아서, 유효숫자의 계산은 여러번의 문제풀이를 통한 연습이 필수적인 부분이다.

 

지금까지 측정, 유효숫자를 계산하고 처리하는 방법에 대해서 배웠다. 다음 시간에는 본격적으로 분석화학의 여러 개념에 대해 배워볼 것이다.