분류 전체보기
새해가 밝았다. 감기와 함께 시작한 2025년. 또 이상한 감기가 캘리포니아에서 유행한 거 같은데, 작년 말에 차타고 이것 저것 먹으려 다녀서 그런가 그러다 옮은 게 아닌가 싶다. 오늘의 주제는 교통이다. 샌디에고는 교통이 나은 편(?)으로 알려져 있다. 샌디에고 내에서도 그렇지만, 미국은 대도시가 아닌 이상 지하철도 없고 대중교통이 정말 잘 안 되어 있다. 1. 거리 사실, 내가 출퇴근하는 장소에서 걸어서 5분 거리의 버스 정류장이 있다. 차를 1월 초에 반납한 뒤로는 버스로 출퇴근을 하기에, 축복받은 장소의 집과 버스 정류장이다. (차에 대한 정보는 면허 포스팅을 참고해주세용) 사실, 이정도면 정말 복받은 것이고, 내가 중간에 잠깐 옮겨 살았던 Clairement는 오래된 동네이기도 하고, ..
오늘 글은 Energy-Based Model(EBM)이 무엇인지,왜 “에너지(Energy)”라는 개념을 통해 확률분포를 정의하면 강력한 생성 모델이 될 수 있는지,그리고 학습(Training) & 샘플링(Sampling) 단계에서 정규화 상수 $Z(\theta)$ 계산을 어떻게 우회하는지에 대한 내용을 정리해보았습니다. 에너지 기반 모델(EBM)의 핵심 수식과 개념, 역사, 학습·샘플링 방법, 확장 가능성 등을 추가적으로 정리해보았습니다.특히 Boltzmann 분포, MCMC(Langevin Dynamics, Metropolis–Hastings 등), 학습 시 발생하는 수식(Gradient) 등을 자세히 다룹니다. 시작합니다. 1. 개요 (Description)에너지 기반 모델(Energy-based..
아래 글은 Score Function이 무엇이며, 이를 이용해 Score Matching으로 어떻게 확률분포를 추정하는지, 그리고이 아이디어가 Diffusion Model(특히 SDE 기반 Score-based Generative Model)에서 왜 중요한 역할을 하는지를 다룹니다.가능한 한 기초적인 확률 개념부터 차근차근 설명하고,Yang Song님의 블로그(2019/ssm)을 참고하였습니다. 차근차근 봅시다. 1. 확률과 분포, 그리고 Score 개념 1-1. 확률분포 $p(x)$와 그 로그 $\log p(x)$ 확률분포 (probability distribution) 란?어떤 데이터(또는 변수) $x$가 가질 수 있는 값들에 대해, 얼마나 자주 (혹은 얼마나 가능성 높게) 나타나는지를 기술예$p(x..
아래 글은 Langevin Dynamics와 이를 이해하기 위한 배경 수학(특히 SDE, 확률분포, Fokker–Planck 방정식 등)를컴퓨터공학(CS) 전공자가 조금 더 직관적으로 이해할 수 있도록 풀어서 설명한 글입니다.갑자기 SDE가 뭐고, 확률분포 $p$ 는 무엇이며, 왜 이렇게 식이 복잡해지는지"에 대한 기본 개념 정리와 함께, Langevin Equation이 무엇이고 어떻게 샘플링에 사용되는지를 다룹니다. 앞서 설명드린 글들을 다시 한 번 짚고 넘어가기에, 더 자세한 설명이 필요하신 분은 앞 포스팅을 이용해주시면 감사하겠습니다. Background1 : ODE to SDE1-1. ODE는 무엇인가? ODE (Ordinary Differential Equation)"시간에 따른 변화"를 ..
Euler’s method(오일러 기법) Euler’s method(오일러 기법)은 초기 조건(Initial Condition)을 알고 있는 상미분방정식(ODE)의 해를 근사하기 위한 가장 간단한 형태의 수치해석(Numerical Analysis) 기법입니다. 즉, ODE에 의해 결정되는 벡터장의 방향(미분의 정보)을 따라 아주 작은 스텝으로 이동함으로써, 전체 해(커브)를 단계적으로 근사해 나가는 방식입니다.Diffusion Model이나 Score-based Generative Model을 이해하기 위해서는, 역방향 과정(Reverse Process)을 해석할 때 ODE(또는 확률적 미분방정식 SDE)에 대한 수치해가 중요합니다. Euler’s method는 이러한 수치해 기법 중 가장 기초가 되는 ..
1. ODE(Ordinary Differential Equation)1-1. ODE란 무엇인가?ODE(Ordinary Differential Equation)는 어떤 변수(미지함수) $\mathbf{x}(t)$ 와 그 미분 $\frac{d\mathbf{x}(t)}{dt}$ 이 등장하는 미분방정식을 의미합니다. 가장 기본적인 형태는 다음과 같습니다. $\frac{d\mathbf{x}(t)}{dt}$ $ = f(\mathbf{x}(t), t)$$\mathbf{x}(t)$: 시간 $t$에서의 함수값$\frac{d\mathbf{x}(t)}{dt}$: $\mathbf{x}(t)$ 가 $t$에 따라 변하는 비율즉, "ODE를 푼다"는 것은 "위 식을 만족하는 함수 $\mathbf{x}(t)$ 를 찾는 것"과 같습..
근황이나 남겨놓을 겸, 옷이나 날씨 이야기 하려고 잠시 돌아왔다. 최근에는 회사도 열심히 다니고, 논문도 쓰고, 영어 공부도 하고 그러고 있다. 차 타고 출퇴근 해서, 출 퇴근 시간이 급격히 감소하였고, 그로 인해, 회사에 가서도 시간을 줄여보고자, 바로 앉아서 일어날 때까지 일하다가, 집에 차 타고 와서도 바로 노트북 펴서 일부터 한다. 요샌 이것저것 할 일이 좀 많아져서, 뭐 어디 놀러가기도 애매하지만, 그래도 가끔 바다는 꼭 가준다. 바다는 집에서 차로 10분 정도 걸리기도 하고, 몇 번 가서 뛰어 놀아보니 되게 좋았다. 특히, 날씨가 엄청 뜨거울 때, 햇빛이 뜨거울 때 물에 들어가면 그나마 들 차갑다. 나도 처음와서 되게 놀랐던 게, 바닷물이 정말 엄청나게 차갑다. 그래도 있다보면 괜찮아지긴 ..
음.. 사람의 식성이 개인마다 다 다르기 때문에.. so.. 오늘은 그냥 내 개인적인 의견으로 작성해보려고 한다. 참고로 나는, 여기 저기 많이 안 다녀보기도 했고, 추천하는 매장으로 많이 다녔다. Dollar Tree, trade joe, Grocery Outlet, sprouts, vons, H Mart, .... 사실 제일 많이 이용한 건 sprouts ..! 정말. 미국 생활의 한 줄기 빛이었다. mira mesa랑 clairement 점에 창문은 하나씩 달아준 거 같다. 아래는 내 식재료 사진.. 정말 많죠? 하지만 냉장고에 있는 것까지 합치면 엄청나다. 사실 주변 사람 중에서 요리를 할 수 없는 홈스테이에 있었다고 들어서 충격이었는데, 난 요리 없었으면 미국 생활 재미없었을 것 ..
오늘의 포스팅 주제는 운전면허 ! 사실, 난 한국에서 운전을 3년 정도 하긴 했다. 매일 한 건 아니고 엄마 차 빌려서 주말마다 했던 터라, 운전은 자신 있었다. 인터넷에 여러 고마운분들이 정리를 잘 해주셔서 그거 읽고 열심히 따라 했더니 잘 취득할 수 있었다. 여기 있는 내용 모두 한 번에 보면 아마 다른 사이트 안 봐도 끝까지 해낼 수 있을 거라고 생각한다 ! [Important !] 해당 과정은 2024년 중순에 있었던 일이며, 시대 흐름에 따라 차이가 있을 수 있습니다. 또한, 꽤나 시간이 걸리는 일이며, 한 스텝 한 스텝 잘 따라가길 바랍니다. 내용은 아래와 같이 크게 3개이다. 1. 필기 시험2. DMV 방문3. 실기 시험 1. 필기 한국과 비슷하게, 우선 먼저 필기시험에 통과해야한다...
