[ML 스터디 1주차] 오일러수(e)와 미분(dy/dx)의 본질을 찾아서...

스터디 교재: "개발자를 위한 필수 수학" by 토마스 닐드
참고 본문: 37p. 1.8.1 오일러 수
--------------
책에 있는 내용만으로는 미안하지만 "오일러수"가 어떤 개념이고 왜 있는 것인지 잘 이해가 안 됐다.
모 LLM한테 오일러수를 딱 한 마디로 알아듣기 쉽게 정의해달라고 했더니 "자라는 속도가 자기 크기와 똑같아지는 유일한 숫자"라고 했다.
이런 저런 설명을 하는데 여전히 알듯 말듯 모르겠다.
그래서 그냥 내가 이해할 수 있는 말로 다시 정리해본다.

1. 오일러수(e)의 본질: "커지는 속도 = 자기 크기"

복리 이자 비유

은행에 100만 원을 저축하고 1년에 100%의 이자를 받는다고 가정해 보자.
이자를 1년에 한 번 받을 때보다, 6개월, 1달, 1일, 1초 단위로 쪼개서 복리로 받을 때 최종 금액은 더 커진다.
그렇다면 이자 지급 주기를 무한히 잘게 쪼개면 어떻게 될까?
금액이 무한대로 커질 것 같지만, 실제로는 약 2.718배라는 특정 한계치에 수렴하게 된다.
이 숫자가 바로 오일러수 e다.
 
자연계의 생태계 번식, 방사성 물질의 붕괴 등 '매 순간 연속적으로 일어나는 자연스러운 변화'가 도달할 수 있는 최대 성장 비율(초기값의 약 2.718배)가 바로 e인 것이다.
y = e^x 라는 지수 함수의 가장 큰 특징은 현재의 크기(y값)가 곧 커지는 속도(기울기)가 된다는 점이다.

위 그래프를 보면 특정 지점에서의 y값(함수의 높이)과 그 지점을 스치는 접선의 기울기(성장 속도)가 완벽하게 일치하는 것을 볼 수 있다.

 
그럼 이 그래프랑 복리 이자 얘기랑 무슨 상관이냐는 의문이 들 수 있다. (나만 그런걸수도 있다.)
결론부터 말하면, x는 약속된 총 목표 증가량(이자율*기간)이고, y, 즉 f(x)는 원금이 몇 배로 증가하는지를 나타내는 최종 배수를 나타낸다.
 

1️⃣조건 (x): 이자율 x 기간

위 예시의 기본 조건은 "100%의 이자를 1년 동안 받는다"이다.

• 이자율: 100% ->1
• 기간: 1년 -> 1

지수 함수 y = e^x에서 x는 위 두 가지를 곱한 값이다.
즉, x = 1*1 = 1이 된다.
따라서 y = e^1이 되어 최종적으로 원금의 약 2.718배라는 결과가 나온 것이다.
 

2️⃣ 조건이 바뀔 경우

만약 이자 및 기간 조건이 달라진다면 x값도 변하고, 최대 배수(y)도 달라질 것이다.

• 기간이 바뀌면: 100%(->1) 이자로 2년 동안 연속 복리를 적용하면, x = 1*2 = 2가 된다. 이때 원금은 e^2(약 7.389)배 증가한다.
• 이자율이 바뀌면: 50%(->0.5) 이자로 1년 동안 연속 복리를 적용하면, x = 0.5*1 = 0.5가 된다. 이때 원금은 e^0.5(약 1.648)배 증가한다.

2. dy/dx는 무슨 뜻?

오일러수에서 '커지는 속도'를 말했는데, 그렇다면 이 속도(기울기)는 어떻게 구하는 걸까?

평균 속도 vs 순간 속도

서울에서 부산까지 400km를 4시간 만에 갔다면, 400 / 4 = 100 즉, 평균 시속 100km/h가 나온다.
단순히 y(전체 이동 거리)를 x(전체 걸린 시간)로 나눈 '평균 변화율'이다.
하지만 운전하는 내내 시속 100km였던 것은 아니다.
만약 "출발 후 2시간 15분 30초가 된 찰나의 순간"의 계기판의 속도를 묻는다면 y/x로는 대답할 수 없다.

dy와 dx

그래서 x의 간격(시간)을 1초, ... 0.001초로 무한히 작게 줄여 0에 가깝게 만든 아주 찰나의 시간 간격을 dx라고 한 것이다.
(d는 Difference, 델타)
그리고 그 찰나의 순간 동안 변한 거리를 dy라고 한다.
즉, dy/dx는 "아주 찰나의 순간(dx) 동안의 미세한 변화량(dy)", 바로 순간 변화율(접선의 기울기)을 의미한다.

두 점 사이의 간격이 점점 좁혀지면서, 두 점을 잇던 할선(평균 기울기)이 한 점을 스치는 접선(순간 기울기)으로 변하는 과정

 

3. 분모(dx)가 0에 가까워지면?

여기서 또 궁금한게 생긴다. "dx가 0으로 수렴하면 어떻게 되지?"

극한(Limit)

사과 10개를 2명이 나누면 5개(10/2 = 5)가 된다.
분모와 분자를 극단적으로 줄여 0.001/0.0002를 계산해도 여전히 5다.
미분도 마찬가지다. dx(시간)가 0에 가깝게 줄어들면, 그 짧은 시간 동안 이동한 dy(거리)도 같이 0에 가까워진다.
수학에서는 이를 극한(Limit)이라고 부르며, 결국 숫자 0으로 나누는 것이 아니라 "0을 향해 무한히 다가가는 상태(dx o 0)"를 관찰하는 것이다.

4. 기울기가 진짜 '0'이 되는 순간

그러면 접선의 기울기(dy/dx)가 진짜로 0이 되는 순간을 살펴보자.
바로 곡선의 가장 높은 곳(극대점)과 가장 낮은 곳(극소점)이다.

위로 던진 공

공을 위로 던지면 공의 속도(기울기)는 플러스(+) 상태가 된다.
그리고 공이 정점을 찍고 떨어지기 시작하면 속도(기울기)는 마이너스(-) 상태로 바뀐다.
플러스에서 마이너스로 넘어가려면 반드시 '0'을 거쳐야 한다.
가장 정점에서 공은 아주 찰나의 순간, 위로도 아래로도 움직이지 않는 정지 상태가 되는데, 이 때가 높이의 변화가 0이 되는 순간이다.

높이 변화(dy)가 0이 되는 순간

이를 dy/dx로 옮겨서 보면, 정점이나 바닥의 기울기는 평평하다.
이 평평한 지점에서는 아주 찰나의 시간이 움직여도(dx), 위아래로의 높이 변화(dy)가 전혀 발생하지 않는다. (dy = 0)
분모 dx가 0이 아니여도 분자 dy가 완전히 0이 되어버리기 때문에 최종 기울기도 0이 되는 것이다.

곡선의 최고점(극대)과 최저점(극소)에서 접선이 완벽한 수평(기울기 0)을 이루는 것을 볼 수 있다. 인공지능의 딥러닝(경사하강법)이 오차를 최소화하기 위해 바로 이 '기울기가 0이 되는 바닥'을 찾아가는 원리를 사용한다고 한다.