Home

모델을 선택한 다음 해야할 일은 모델의 hyperparameter를 정하는 hyperparameter tuning 과정입니다.

Regular matrix / Singular matrix Square matrix (정방행렬) 중에서 역행렬이 존재하는 행렬을 regular matrix (정칙행렬)라고 하고 역행렬이 존재하지 않는 행렬을 singular matrix (특이행렬)라고 합니다.

Remarks 본 포스팅은 Hands-On Machine Learning with Scikit-Learn & TensorFlow (Auérlien Géron, 박해선(역), 한빛미디어) 를 기반으로 작성되었습니다.

문제에 가장 적절한 모델을 찾은 후 해당 모델의 성능을 향상시키기 위한 방법을 찾기 위해 생겨난 에러의 종류를 분석할 수 있습니다. 이 과정을 에러 분석 (Error analysis) 라고 합니다.

Elementary Row Opeation (기본행 연산) - $E_i(c): i$ 행을 c배 한다. - $E_{i, j}: i, j$ 행을 교환시킨다. - $E_{i, j}(c): j$ 행을 c배하여 $i$ 행에 더한다.

분류기의 성능을 평가하기 위해 간단히 accuracy (정확도)만을 사용할 수도 있지만 더 정확하게 평가하기 위해서 confusion matrix (오차 행렬) 를 조사하는 것이 필수적입니다. 1 1. Accuracy = $\frac{\text{TP + TN}}{\text{All}}$ 2. Precision = $\frac{\text{TP}}{\text{TP + FP}}$ 3. Recall = TPR = $\frac{\text{TP}}{\text{TP + FN}}$ 4. F$\bf{_1}$ score = $\frac{2}{\frac{1}{Precision} + \frac{1}{Recall}}$ 5. FPR = ...

이번에 살펴볼 내용은 rank와 관련하여 행렬을 분해하는 방법인 rank factorization 입니다. 자세한 내용은 https://en.wikipedia.org/wiki/Rank_factorization 을 참조하세요. For all $A$, there are $B$ and $C$ such that - $A = BC$ - $A \in \mathbb{R^{m \times n}}$, rank $A$ = $r$ - $B \in \mathbb{R^{m \times r}}$, rank $B$ = $r$ - $C \in \mathbb{R^{r \times n}}$, rank $C$ = $r$

Matrix $A \in \mathbb{R^{m \times n}}$는 vector $\mathbf{x} \in \mathbb{R^n}$를 vector $\mathbf{y} \in \mathbb{R^m}$로 옮기는 사상으로 생각할 수 있다! Matrix를 vector의 사상으로 생각하면 matrix의 의미에 대해서 깊이 이해할 수 있는데, 그 전에 중요 개념을 정의하고 넘어가겠습니다.