mino28 님의 블로그

1. 어텐션 메커니즘기존의 RNN(Recurrent Neural Network)이나 LSTM(Long Short-Term Memory) 모델은 입력 데이터를 순차적으로 처리하기 때문에 긴 문장에서 중요한 정보를 잃어버리거나, 멀리 떨어진 단어 간의 관계를 잘 파악하지 못하는 문제가 있었습니다. 어텐션은 입력 문장의 모든 단어를 한 번에 보고, 어떤 단어가 중요한지 가중치를 계산하여 집중하는 방법입니다.예를 들어, "나는 오늘 학교에서 수학 시험을 봤다."라는 문장에서 "시험"이라는 단어가 가장 중요한 의미를 가진다고 가정합시다. 어텐션은 이 문장을 처리할 때 "시험"에 더 높은 가중치를 주고, 덜 중요한 단어에는 낮은 가중치를 주는 방식으로 학습합니다. 2. 단어 임베딩과 문맥단어의 의미는 그 단어가 ..

1. 프로토타입자바스크립트에서 프로토타입(Prototype)은 객체가 다른 객체로부터 속성과 메서드를 상속받을 수 있게 해주는 메커니즘이다. 모든 객체는 숨겨진 링크인 [[Prototype]](또는 __proto__)을 통해 자신의 부모 역할을 하는 객체를 참조하며, 이를 통해 객체 간에 속성과 메서드를 공유할 수 있다. 이 연결 구조를 프로토타입 체인(prototype chain)이라고 하며, 객체는 필요한 속성을 자신의 내부에서 찾지 못하면, 프로토타입을 따라 위로 올라가며 검색한다. 이를 통해 자바스크립트는 클래스 없이도 재사용과 상속이 가능한 객체지향 구조를 구현할 수 있다.function Person(name) { this.name = name;}Person.prototype.sayHello ..