본문 바로가기

분류 전체보기41

Generative learning algorithms Discriminative VS Generative Discriminative learing algorithms은 입력 데이터 x가 주어졌을 때, 정답 레이블 y를 예측할 수 있도록 학습하는 알고리즘이다. 예시로 logistic regression이 있으며, 수식은 다음과 같이 표현한다. $$ p(y|x; \theta) $$ Generative learing algorithms은 정답 레이블 y가 주어졌을 때, 입력 데이터 x들이 어떤 특징을 가지는 지 학습하는 알고리즘이다. 수식은 다음과 아래와 같이 표현한다. $$ p(x|y) $$ $$ p(y|x) $$ 를 Bayes rule을 이용해서 아래와 같이 풀어서 $$ p(x|y)p(y) $$를 구할 수 있다. $$ p(y|x) = \frac{p(x|y)p.. 2023. 1. 19.
2022 오픈소스 컨트리뷰션 아카데미 후기 (지원부터 마스터즈 과정까지) https://www.contribution.ac/ 2022 오픈소스 컨트리뷰션 아카데미 Open Source Contribution Academy www.contribution.ac 오픈소스 컨트리뷰션 아카데미는 오픈소스에 대한 진입 장벽을 허물고 선배 개발자와 함께 오픈소스에 기여해보는 멘토링 프로그램이다. 2016년부터 Open UP, 정보통신산업진흥원에서 주관한 행사이며 올해는 7회차 였다. 특히 올해 부터는 각 팀의 멘토에게 "청년 SW개발자 멘토링"을 받을 수 있었다. 총 25개의 오픈소스 프로젝트에 참여할 수 있었고 1지망으로 음파 통신 라이브러리 "Euphony"에 지원 했고 2지망으로 "Openstack"에 지원했다. 약 3개월 간 Challengers, Masters 두 가지 과정을 진.. 2022. 12. 27.
[Git] Push하지 않은 Commit 되돌리기 문제 상황 로컬에 있는 파일을 github(원격 저장소)에 올리려고 하니, 100mb의 용량제한으로 인해 push 되지 않았다. 그래서 100mb 이상인 파일을 모두 지우고 push를 하려고 하니 이전에 커밋한 것들이 push 되지 않아서 에러가 발생했다. 100mb의 용량제한 에러가 뜬 커밋 전의 커밋으로 돌아가야 100mb 이상인 파일을 모두 지운 커밋의 push가 가능하다. 100mb 용량제한 에러가 난 커밋은 " json delete, v2 code upload"이며 이 보다 전의 커밋으로 돌아가야 한다. 맨 아래에 있는 커밋인 "Create README.md" 로 커밋을 되돌린다. "Create README.md" 커밋 아이디를 복사하고 아래의 명령어를 입력한다. git reset --soft .. 2022. 12. 27.
[논문리뷰] Attention is All you need(Transformer), NIPS 2017 Abstract sequence modeling 시퀀스 데이터 모델링은 어떠한 시퀀스를 가지는 데이터로 부터 또 다른 시퀀스를 처리하는 데티터를 생성하는 tasK이다. 대표적인 예로는 기계 번역, 챗봇 등이 있다. 대부분 시퀀스 모델링은 RNN, CNN을 이용하였다. 이 모델들의 문제점은 모든 데이터를 한 번에 처리하는 것이 아니라 시퀀스 순서에 따라서 순차적으로 입력을 넣어준다. 이를 보완하기 위해서 Sequence to Sequence 모델을 사용한다. Sequence to Sequence model 사진 출처 : https://yjjo.tistory.com/35 기계번역 task를 예시로 seq2seq모델을 설명해보자면 인코더, 디코더 구조로 이루어져 있으며 인코더의 최종 출력(소스 문장의 최종 히.. 2022. 12. 27.