Others/22) 캡스톤 디자인28 Transformer 기반 자연어 처리 애플리케이션 구축 - 1부: Machine Learning in NLP Attention이 Transformer 아키텍처를 구성하는 방식에 대해 알아봅니다. Transformer 아키텍처는 BERT(Bidirectional Encoder Representations from Transformers) 및 Megatron과 같은 대규모 언어 모델에 대한 선구적 아키텍처로, NLP(자연어 처리) 작업의 정확도를 크게 높였으며 여러 산업 전반의 기업들이 고품질 언어 기반 서비스를 접할 수 있게 했습니다. 1.0 Transformer Architecture 2017년 후반에는 Translation을 포함한 광범위한 시퀀스 투 시퀀스 문제들이 콘볼루션 (Convolution) 또는 Recurrent Neural Network (순환신경망, RNN)를 통해 해결되었습니다 (그림 1 참조.. 2022. 6. 6. nvidia nlp test 임베딩이란? | DataLatte's IT Blog (heung-bae-lee.github.io) 임베딩이란? 컴퓨터가 바라보는 문자 아래와 같이 문자는 컴퓨터가 해석할 때 그냥 기호일 뿐이다. 이렇게 encoding된 상태로 보게 되면 아래와 같은 문제점이 발생할 수 있다. 이 글자가 어떤 글자인지를 표시 heung-bae-lee.github.io 아래와 같이 문자는 컴퓨터가 해석할 때 그냥 기호일 뿐이다. 이렇게 encoding된 상태로 보게 되면 아래와 같은 문제점이 발생할 수 있다. 이 글자가 어떤 글자인지를 표시할 수 있고 그에 따른 특성을 갖게 하려면 우선 계산할 수 있게 숫자로 만들어 주어야 할 것이다. 그러한 방법 중 가장 단순한 방법이 One-hot encoding을 통한 것이다. 허나,.. 2022. 6. 6. Machine Learning in NLP NLP란 문제 정형화 텍스트 표현 The Bag of Words 동시 발생 패턴 차원 축소 LSA/LSI 우리는 더 많은 프로그레스를 만들었나요? 지도형 모델을 통해 비지도형 접근법을 결합해도 되는 지는 확실치 않음 임베딩 RNN 2022. 6. 6. 캡디2 - 12 실행, 모니터링 요구사항을 정확히 모델링하고 그것에 대해서 usecase diagram을 만들고 업무를 할당하기도 했다. 그것을 사람과 팀단위로 할당하기도 했다. 매주마다 성과보고, 문제가 있으면 시정조치 => 프로젝트 실행이 정상적으로 되도록 1. 프로젝트 작업 모니터링 및 통제 2. 변경관리 3. 의사소통 관련 프로젝트 진척 모니터링 - 프로젝트 각 단계마다 산출물이 계획과 일치하는지 모니터링 - 실행단계가 프로젝트의 가장 많은 시간이 투입됨 - 업무활동이 성공적인 프로젝트 기준에 부합하는지 모니터링 범위 : 고객 수락 기준에 부합 확인 인력 : 계획된 인력 투입 범위 내에서 완료되는지 확인 비용 : 예산 한도 내에서 실행중인지 확인 모니터링 목적은 - 제 궤도를 따라 진척되고 있는지 확인 - 프로젝트와 관련된 문제.. 2022. 5. 27. 이전 1 2 다음
