> LOADING MODULE...
> DECRYPTING SIGNAL
> RENDER::INIT
> STREAM OK
> READY
LAT: 37.5665LONG: 126.9780δx/δt = αΔu∇²ψ = 0λ = 632.8nmf(x) → ∞NODE_03::ACTIVEFREQ: 440HzΔt = 0.016sRX: 0xA3F2SIGNAL::OKη = 0.9973
> PROJECTS
> study-gpt[01]
Stage 01 — 역전파 전에 필요한 것: 계산을 기억하는 스칼라
순수 Python으로 Value 객체를 만들고, 덧셈과 곱셈이 순전파 값과 계산 그래프를 동시에 만드는 과정을 직접 실행해 확인한다.
_Python
> study-gpt[02]
Stage 02 — 연쇄 법칙을 코드로: 역방향 자동미분
국소 미분값을 역순으로 합성하고, 공유 노드 누적·중앙 차분·실패 원자성으로 reverse-mode 자동미분을 검증한다.
_Python
> study-gpt[03]
Stage 03 — 미분 가능한 연산의 경계: exp, log, ReLU, 거듭제곱
거듭제곱,exp,log,ReLU의 국소 미분을 추가하고, 정의역,비미분점,유한성 검사를 통제 실험으로 검증한다.
_Python
> study-gpt[04]
Stage 04 — BOS가 아니라 문서 경계: UTF-8 byte tokenizer
단일 문서 경계와 순수 UTF-8 byte tokenizer의 정책·비용·실패 경계를 직접 구현하고 검증한다.
_Python
> study-gpt[05]
Stage 05 — Shape는 주석이 아니다: tensor 전의 실행 계약
Vector,Matrix,embedding의 shape와 parameter,graph 비용을 가장 작은 신뢰 경계에서 강제한다.
_Python
> study-gpt[06]
Stage 06 — NaN이 없다고 안정적인 것은 아니다: centered log-partition
centered log-partition으로 softmax와 fused cross-entropy의 finite-but-wrong을 차단한다.
_Python
> study-gpt[07]
Stage 07 — Shape가 맞아도 같은 모델은 아니다: Linear parameter identity와 실행 계획
Linear,ReLU MLP의 parameter identity와 model-wide forward 비용을 실행 전에 봉인한다.
_Python