본문 바로가기

증명2

벡터미분 공식과 행렬미분 결과에 대한 사실 수정 - 2025/05/04 : 기존 내용보다 더 쉽게 설명했습니다. 변수가 많은 데이터나 방정식에서 벡터화시켜서 미분을 진행하는 경우가 꽤 많다. 예로들어, 다중선형회귀분석에서 각 변수마다 편미분을 해서 구할려고 하면, 힘들기 때문에 벡터미분을 이용한다. 다음은 행렬에 관한 미분이다. 행렬식에 관한 미분과 역행렬에 대한 미분이 다음과 같이 사실로 밝혀져있음을 받아들인다.이는 선형모형론 이차형식의 적률생성함수를 구하고 평균과 분산을 구하는 곳에서 유용하게 쓰이는 사실이다. 2024. 4. 16.
볼록함수,볼록집합이란? 최적화를 다루는데 있어, 볼록(Convex)는 아주 중요한 요소이다. 우선 함수는 집합으로 이루어져있기 때문에, 집합부터 봐야겠다. 볼록집합을 알아보기전에 아래를 보자. 그래서 왜 이렇게 주저리주저리 위치벡터를 설명하고 선분위의 한 점을 양 끝점으로 표현하는 방법을 알아보았냐면, 볼록집합의 정의가 어느 한 "선"을 기준으로 얘기하는데, 이 "선"의 식이 어떻게 나오는지 출처를 잘 모르는 사람들이 꽤 있기 때문이다.기하학적의미는 선을 찍찍 그었을 때, 집합(도형)에 모두 표현이 가능하다면, 그것은 볼록집합이다. 다음은 볼록함수의 내용이다. 감이 잘 안올 것이다. 아래의 설명을 꼼꼼하게 봐보자. 즉, 양 점의 함숫값을 직선으로 그었을 때, 함수는 밑에서 존재해야 한다는 말이다. 추가적으로, 아래의 함수는 y.. 2024. 4. 9.