티스토리

code-bean 님의 블로그

검색하기

블로그 홈

code-bean 님의 블로그

code-bean.tistory.com/m

code-bean 님의 블로그 입니다.

구독자: 0

방명록 방문하기

주요 글 목록

SSE 방식과 일반 API 호출 방식 확인 방법 1. 브라우저 개발자 도구 [F12] -> Network tab 확인 2. 동작 수행 3. filter 에서 Fetch/XHR 클릭 4. Header -> Request Method , Accept 확인 Method : SSE 방식 = GET / API 방식 = GET or POSTAccept : SSE 방식 = text/event-stream / API 방식 = application/json 공감수 0 댓글수 0 2025. 3. 3.
wsl2 로 docker 실행하기 쿠버네티스 실험 전 wsl2 로 docker 실행을 하기 위해 아래 작업을 진행했다 사전 필요 작업- docker.desktop 설치- wsl2 설치 1. General > Use the WSL 2 based engine 체크 되어있는지 확인 Resources > WSL integration 1. > Enable integration with my default WSL distro 체크2. > Enable integration with additional distros: > Ubuntu 체크3. Apply & restart docker --version 설치해준 ubuntu 에서 위의 코드로 도커 확인 공감수 0 댓글수 0 2025. 2. 28.
cmd 로 파일 이동 [윈도우 버전] cmd를 통해 파일 이동시키는 코드는 다음과 같다. C:\Users\user\project_name\project_1\data> scp data.jpg name@ip_address:/home/위치/1. 해당 데이터가 있는 폴더로 이동한 후2. scp data_name name@ip_address:/home/위치명/3. password 기입 공감수 0 댓글수 0 2025. 2. 17.
Massage passing 1. GNNGNN은 그래프 구조의 데이터를 처리하기 위한 딥러닝 모델이다. 그래프의 노드, 엣지, 속성을 입력으로 받아 노드 혹은 특징 벡터를 학습한다. 기본적으로 메시지 패싱 기법을 사용하여 노드의 정보를 받아 특징 벡터를 업데이트하며 일반적으로 손실 함수를 정의하고 역전파를 통해 학습된다. 2. 그래프 데이터노드와 엣지[노드 간 관계 혹은 상호작용]로 이루어 자료 구조이다. 이 구조는 네트워크 형태의 관계나 연결성을 설명하는데 사용된다. 1) 그래프 예시1. 추천 시스템의 경우노드 : 유저 / 아이템엣지 : 유저와 아이템의 관계 [조회 / 클릭 / 구매 등] 2. sns의 경우노드 : 유저엣지 : 유저의 관계 [팔로우 등] 3. 생물의 경우노드 : 단백질, 유전자 등의 분자엣지 : 단백질 간의 상.. 공감수 0 댓글수 0 2024. 11. 8.
텍스트 생성 모델 평가 지표 [Perplexity, BLEU, ROUGE, METEOR] 생성 모델을 평가하는 지표는 Automatic Evaluation 과 Human Evaluation 으로 나눠지는데 이 페이지에서는 텍스트 생성 모델에 대한 Automatic Evaluation 을 살펴보고자 한다. 1. Perplexity [PPL]언어 모델이 샘플을 얼마나 잘 예측하는지 정량화 하는 모델로, 모델이 예측한 확률의 불확실성을 측정하기 때문에 점수가 낮을수록 모델의 성능이 우수하다고 평가한다. 수식은 아래와 같다.$PPL(W) = P(w_1, w_2, w_3, ..., w_N)^{-frac{1}{N}} = N\sqrt{\frac{1}{P(w_1, w_2, ...,w_N)}}$ 2. BLEU [Bilingual Evaluation Understudy]생성된 텍스트와 정답 텍스트 간의 n-.. 공감수 3 댓글수 3 2024. 11. 4.
[개인 프로젝트] S-Walk 논문 모델로 추천 모델 구현해보기 -2 [모델 구현] 1. Input"S-Walk: Accurate and Scalable Session-based Recommendation with Random Walks" 에서 Input x는 사용자의 세션 데이터[시퀀스], 즉 아이템의 순차적 목록이다. 그래서 저번 1편에서 x를 만드는 작업까지 진행했다. 이 중 user_id 한 개를 x로 설정하고 random walks를 진행할 예정이다. 이를 통해 아이템간 연관성을 추출하고 관심사나 패턴을 파악한 후 추천할 아이템을 예측하는 형태이다. 2. 모델 구현먼저 엣지와 가중치를 설정하여 그래프를 구성한다. graph = nx.DiGraph()for session in sessions: for i in range(len(session) - 1): it.. 공감수 0 댓글수 1 2024. 11. 4.
Transformer Model [트랜스포머 모델] 정리 - [3] 이 글은 Transformer 에 대해 직관적으로 이해하고 이해한 바를 잊지 않기 위해 여러 글을 참고하여 작성 / 정리해둔 글입니다. 1. Transformer 의 주요 하이퍼파라미터1) 입력과 출력의 크기 [= 임베딩 크기, Embedding Size]모델이 학습할 단어 표현의 차원을 결정한다.임베딩 크기가 클수록 더 넓은 표현이 가능하지만 모델 복잡도와 메모리 사용량도 함께 증가한다.2) 인코더와 디코더의 층 [= 레이어 수, Num of Layers]층이 많을수록 모델이 복잡한 패턴을 학습할 수 있지만 과적합이 발생할 수 있다.BERT 나 GPT 모델에서는 12, 24, 48 레이어를 사용하는 경우가 많다.3) 어텐션 헤드의 수 [= Num of Attention Heads]멀티헤드 어테션 ㅅ레.. 공감수 2 댓글수 1 2024. 10. 28.
Transformer Model [트랜스포머 모델] 정리 - [2] 이 글은 Transformer 에 대해 직관적으로 이해하고 이해한 바를 잊지 않기 위해 여러 글을 참고하여 작성 / 정리해둔 글입니다. 1. 인코더의 셀프 어텐션 트랜스포머는 하이퍼파라미터인 num_layers 의 수만큼 인코더 층을 쌓는다. 논문에서는 6개의 인코더 층을 사용했다. 인코더를 하나의 층이라는 개념으로 생각한다면, 인코더 한 개의 층은 셀프 어텐션과 피드 포워드 신경망 총 2개의 서브층으로 나눠진다. 위의 그림에서멀티 헤드 셀프 어텐션 = 셀프 어텐션을 병렬적으로 사용포지션 와이즈 피드 포워드 신경망 = 피드 포워드 신경망 을 뜻한다. 2. 포지션-와이즈 피드 포워드 신경망 [Position-wise FFNN]1) 셀프 어텐션더보기어텐션 함수 :1. 주어진 쿼리에 대해 모든 키와 유사도를 .. 공감수 8 댓글수 4 2024. 10. 28.
KL Divergence [Kullback-Leibler Divergence] 1. KL Divergence ?두 확률 분포 간의 차이를 측정하는 함수로, 모델이 예측한 확률 분포와 실제 데이터 분포 간의 차이를 최소화 할 때 사용된다. 예측 분포와 실제 분포의 차이를 정량적으로 평가할 수 있으며 분류 모델에서 손실 함수로 사용 되기도 한다.KL Divergence 값이 0에 가까울 수록 두 개의 분포가 비슷하다는 것을 의미하며, 크면 클수록 두 분포가 차이가 크기 때문에 정보 손실이 크다고 해석할 수 있다. 2. 수식이산확률분포 :$\mathit{D}_{KL}(P\left| \right|Q)=\sum_{i}P(i)\cdot log(\frac{P(i)}{Q(i)})$ $=\sum_{i}P(i)logP(i)-\sum_{i}P(i)logQ(i)$ $=-H(P)+H(P, Q)$ $P(i.. 공감수 0 댓글수 0 2024. 10. 28.
DPO [Direct Preference Optimization] 이란? 1. DPO ?LLM 에서 사람의 피드백을 반영하여 성능을 최적화하는 방법 이다. Preference Optimization 을 통해 모델이 사람의 선호도를 직접 반영하는 응답을 생성하도록 학습하는 기법이다. 기존의 강화 학습과는 다르며, RLHF [Reinforcement Learning with Human Feedback] 를 대체하거나 보완하는 목적으로 사용된다. 2. 학습 방법핵심 아이디어는 사람이 선호하는 응답을 모델이 더 잘 예측하도록 하는 것이다. 일반적으로 선호되는 응답 $x_{preferred}$ 과 그렇지 않은 응답 $x_{non-preferred}$ 을 모델이 비교하여 선호되는 응답을 더 높은 확률로 예측할 수 있도록 모델을 업데이트 한다. 1. 특정 질문에 대해 여러 응답을 생성한 .. 공감수 1 댓글수 1 2024. 10. 26.
[개인 프로젝트] S-Walk 논문 모델로 추천 모델 구현해보기 -1 [MovieLens 데이터셋 설명, 코랩 구글드라이브 연동하기, 데이터 전처리] 1. Datahttps://grouplens.org/datasets/movielens/ MovieLensGroupLens Research has collected and made available rating data sets from the MovieLens web site ( The data sets were collected over various periods of time, depending on the size of the set. …grouplens.org위의 MovieLens 데이터셋을 활용했다. 해당 데이터는 87,585개의 영화에 대해 32,000,204 개 평가와 2,000,072 개 태그가 포함되어 있으며, 모든 사용자가 최소 20개 이상을 평가했다. Colab 에서 진행했으므로 .. 공감수 4 댓글수 0 2024. 10. 25.
[개인 프로젝트] BERT 기반으로 비속어 [단어] 탐지 모델 구축 1. 프로젝트 정의비속어 [단어] 탐지 모델을 만들어보려고 하는데 가지고 있는 데이터가 적기 때문에 BERT 기반으로 비속어 감지 모델을 구축하고자 한다. 이때 transformers 라이브러리로 pre-trained BERT 모델을 불러오고, 가지고 있는 데이터로 fine-tuning하려고 한다. 모델을 활용해 주어진 단어가 비속어인지 아닌지 여부를 예측할 수 있다. 2. 데이터https://jizard.tistory.com/288 자주쓰는 최신 비속어 리스트 (욕설 필터링 txt 첨부파일 제공)인터넷에 떠돌아다니는 비속어 리스트를 보면...적어도 20년은 묵은듯한 단어들이 많이 나오는데, 이건 그래도 비교적 최신(?) 비속어 리스트다.jizard.tistory.com위의 사이트에서 "fword_li.. 공감수 2 댓글수 1 2024. 10. 24.
import cv2 오류 할 때마다 매번 까먹어서 여러번 이것 저것 해보게 만드는 import cv2 import cv2 -> No module named 'cv2' 오류 발생 1. pip install 실행-> kernel restart 해봤지만 동일한 오류 발생 2. pip install opencv-python 실행-> 이렇게 install 진행했지만 import 하니까 아래 오류 발생 3. apt-get ~ 실행apt-get update -yapt-get install -y libgl1-mesa-glx 위의 코드 두 줄 실행하면 된다길래 터미널에서 실행했으나둘 다 안됨. 4. sudo로 재실행 sudo apt-get update -ysudo apt-get install -y libgl1-mesa-glx 진행하.. 공감수 0 댓글수 1 2024. 10. 21.
[Top Interview 150 - Math] 50. $Pow(x, n)$ [Q] [Medium]Implement pow(x, n), which calculates x raised to the power n (i.e., xn). pow(x, n) 을 구현하라고 해서 ** 로 return 했는데 통과뭔가 Medium 문제 인데 이렇게 풀어도 되나 다른 사람들 답도 찾아봤다.# Answerclass Solution: def myPow(self, x: float, n: int) -> float: return x ** n # 다른 사람 답class Solution: def myPow(self, x: float, n: int) -> float: my_pow_num = pow(x, n) if my_pow_num > (pow(2, 31) - 1).. 공감수 0 댓글수 0 2024. 10. 13.
[Top Interview 150 - Math] 69. Sqrt(x) [Q] [Easy]Given a non-negative integer x, return the square root of x rounded down to the nearest integer. The returned integer should be non-negative as well.You must not use any built-in exponent function or operator.For example, do not use pow(x, 0.5) in c++ or x ** 0.5 in python. do not use x ** 0.5 못 보고 아래와 같이 풀었는데 정답처리 됐다.근데 안된다니까 일단 빼고다른 답들을 찾아보니 이진탐색도 있고, 아래 import math 한 것도 있는데 일단 impor.. 공감수 0 댓글수 1 2024. 10. 13.
[Top Interview 150 - Math] 172. Factorial Trailing Zeroes [Q] [Medium]Given an integer n, return the number of trailing zeroes in n!.Note that n! = n * (n - 1) * (n - 2) * ... * 3 * 2 * 1. int -> list 바꾸는 과정이 필요했다.0 만 따로 처리해주고, math.factorial 이용하면 쉬운 문제였다.다만 n = 1574 였을 때 오류가 났는데 애초에 math.factorial 이 적용되지 않았다.큰 수의 경우 이런식으로 구할 수 없음을 깨닫고 찾아보니 5의 배수가 뒷 자리 0을 가져온다는 것을 이용해야 했다. -> 5로 나눠서 몫을 계산하여 가져오면 뒷자리 0의 개수를 알 수 있다.아직도 수학도 갈 길이 멀다.# Wrong Answerimport ma.. 공감수 1 댓글수 1 2024. 10. 13.
[Top Interview 150 - Math] 9. Palindrome Number [Q] [Easy]Given an integer x, return true if x is a palindrome, and false otherwise. int -> list 바꾸는 과정이 필요했다.음수인 경우와 0보다 크고 10보다 작은 일의 자리 숫자인 경우도 따로 처리해줬다.제출하다보니 예외가 계속해서 나와서 그걸 처리하다 보니 코드가 좀 지저분해졌다.# Answerimport mathclass Solution: def isPalindrome(self, x: int) -> bool: # 음수 따로 처리 if x = 0) & (x 1) & (x_list[:middle-1] == list(reversed(x_list[middle:]))): .. 공감수 0 댓글수 0 2024. 10. 13.
[Top Interview 150 - Hashmap] 128. Longest Consecutive Sequence [Q] [Medium]Given an unsorted array of integers nums, return the length of the longest consecutive elements sequence.You must write an algorithm that runs in O(n) time. 이 문제는 오름차순으로 하면 바로 풀릴 문제였지만, time complexity 로 인해 사용하기 어렵다.hash set 을 사용해야 한다.# Answerclass Solution: def longestConsecutive(self, nums: List[int]) -> int: if not nums: return 0 num_set = set(nums) .. 공감수 0 댓글수 0 2024. 10. 13.
[Top Interview 150 - Hashmap] 219. Contains Duplicate II [Q] [Easy]Given an integer array nums and an integer k, return true if there are two distinct indices i and j in the array such that nums[i] == nums[j] and abs(i - j) 문제가 참 이해가 안갔던 문제..# Answerclass Solution: def containsNearbyDuplicate(self, nums: List[int], k: int) -> bool: num_dict = {} for i, num in enumerate(nums): if num in num_dict and i - num_dict[num] 공감수 0 댓글수 1 2024. 10. 12.
[Top Interview 150 - Hashmap] 49. Group Anagrams [Q] [Medium]Given an array of strings strs, group the anagrams together. You can return the answer in any order. 일단 문제가 짧아서 좋았다 22..collections.defaultdict 함수 쓰면 아주 간단하게 해결되는데 참고한 문제 해결 방법이 독특해서 재밌었다.# Answerimport collectionsclass Solution: def groupAnagrams(self, strs: List[str]) -> List[List[str]]: anagrams = collections.defaultdict(list) for word in strs: anagrams.. 공감수 0 댓글수 0 2024. 10. 12.
[Top Interview 150 - Hashmap] 242. Valid Anagram [Q] [Medium]Given two strings s and t, return true if t is an anagram of s, and false otherwise. 일단 문제가 짧아서 좋았다.문제가 짧으니까 잘 풀리는 것 같기도..?count(i) 함수 써서 해당 '문자열' 의 개수를 value 로 넣어주니 쉽게 풀렸다.# Answerclass Solution: def isAnagram(self, s: str, t: str) -> bool: # 길이 안 맞으면 False if len(s) != len(t): return False s_dict = dict() t_dict = dict() for i in s: .. 공감수 0 댓글수 0 2024. 10. 12.
[Top Interview 150 - Hashmap] 290. Word Pattern [Q] [Easy]Given a pattern and a string s, find if s follows the same pattern.Here follow means a full match, such that there is a bijection between a letter in pattern and a non-empty word in s. Specifically:Each letter in pattern maps to exactly one unique word in s.Each unique word in s maps to exactly one letter in pattern.No two letters map to the same word, and no two words map to the same .. 공감수 0 댓글수 0 2024. 10. 12.
[Top Interview 150 - Hashmap] 205. Isomorphic Strings [Q] [Easy]Given two strings s and t, determine if they are isomorphic.Two strings s and t are isomorphic if the characters in s can be replaced to get t.All occurrences of a character must be replaced with another character while preserving the order of characters. No two characters may map to the same character, but a character may map to itself. 길이 다르면 애초에 아니니까 따로 빼줬다.str.index() 함수 활용하여 index.. 공감수 0 댓글수 0 2024. 10. 12.
[Top Interview 150 - Hashmap] 383. Ransom Note [Q] [Easy]Given two strings ransomNote and magazine, return true if ransomNote can be constructed by using the letters from magazine and false otherwise.Each letter in magazine can only be used once in ransomNote. Hash 문제는 익숙해지는 것이 중요한 것 같다.dict.get() 만 알면 수월하게 풀 수 있었던 문제# Answerclass Solution: def canConstruct(self, ransomNote: str, magazine: str) -> bool: char_frequency = dict() .. 공감수 0 댓글수 0 2024. 10. 12.
Two Pointers 문제 타 블로그의 글을 기억하기 위해 정리 & 저장해놓음. Two Pointers 알고리즘 ? 리스트에 순차적으로 접근해야 할 때 두 개의 점의 위치를 기록하면서 처리하는 알고리즘이다.위 알고리즘으로 풀 수 있는 대표적인 문제는 아래와 같다.특정한 합을 가지는 부분 연속 수열 찾기정렬되어 있는 두 리스트의 합집합 구하기 출처1. https://freedeveloper.tistory.com/393 [이것이 코딩 테스트다 with Python] 39강 투 포인터https://www.youtube.com/watch?v=ttLRltNDiCo&list=PLVsNizTWUw7H9_of5YCB0FmsSc-K44y81&index=39 투 포인터 (Two Pointers) 투 포인터 알고리즘은 리스트에 순차적으로 접근해야 .. 공감수 0 댓글수 0 2024. 10. 12.
Hash map 문제 타 블로그의 글을 기억하기 위해 정리 & 저장해놓음. 해쉬 알고리즘 문제들은 파이썬의 딕셔너리를 사용하는 문제이다.파이썬의 딕셔너리가 Hash Table 과 같은 구조이다.해쉬 구조란? Key 와 Value 쌍으로 이루어진 데이터 구조를 뜻한다.보통 배열로 미리 Hash Table 크기 만큼 생성해서 사용한다.해쉬 테이블의 장 / 단점장점 :데이터 저장 / 검색 속도가 빠르다.중복 확인이 쉽다.단점 :저장 공간이 조금 더 많이 필요하다.충돌 해결 알고리즘이 필요하다. 출처1. https://davinci-ai.tistory.com/19 파이썬으로 구현하는 자료구조 요약 정리 - 해쉬 테이블(Hash Table)Writer: Harim Kang 해당 내용은 코딩 테스트 및 기술 면접을 대비하기 위해서 자.. 공감수 0 댓글수 0 2024. 10. 12.
[Top Interview 150 - Two Pointers] 167. Two Sum II - Input Array Is Sorted [Q] [Medium]Given a 1-indexed array of integers numbers that is already sorted in non-decreasing order, find two numbers such that they add up to a specific target number. Let these two numbers be numbers[index1] and numbers[index2] where 1 모르겠어서 찾아보고 풀음하나 고정해놓고 하나씩 더해보려고 헀는데, 왼쪽 / 오른쪽 하나씩 줄여나가는 방법이 더 좋다는 생각이 들었다.l 과 r 의 + / - 는 달라지면 안된다. -> sorted 되어 있기 때문에 # Answerclass Solution: def twoSu.. 공감수 0 댓글수 0 2024. 10. 12.
[Top Interview 150 - Two Pointers] 392. Is Subsequence [Q] [Easy]Given two strings s and t, return true if s is a subsequence of t, or false otherwise.A subsequence of a string is a new string that is formed from the original string by deleting some (can be none) of the characters without disturbing the relative positions of the remaining characters. (i.e., "ace" is a subsequence of "abcde" while "aec" is not). 이런 문제가 취약점인가보다 좀 헷갈려서 찾아보고 풀었다. # Answ.. 공감수 0 댓글수 1 2024. 10. 12.
[Top Interview 150 - Two Pointers] 125. Valid Palindrome [Q] [Easy]A phrase is a palindrome if, after converting all uppercase letters into lowercase letters and removing all non-alphanumeric characters, it reads the same forward and backward. Alphanumeric characters include letters and numbers.Given a string s, return true if it is a palindrome, or false otherwise. palindrome 이 뭔지 몰라서 처음부터 띠용했다.리스트 안의 문자열을 뒤집는 함수 [::-1] 만 알면 쉬운 문제! 까먹고 있어서 어렵게 돌아가다가 .. 공감수 5 댓글수 0 2024. 10. 12.
[Top Interview 150 - Array / String] 189. Rotate Array [Q] [Medium]Given an integer array nums, rotate the array to the right by k steps, where k is non-negative.Constraints:1 일단 rotate 문제니까, deque.rotate(k) 쓰면 된다고 생각했다.그래서 작성했는데 먹히지 않음.이번엔 아래와 같이 작성했는데 또 안됨! 왜!조건들 때문이었다.. 그래서 if 문 추가하고 k가 n 보다 클 수 있어서 k%=n 추가하고 제출# Wrong Answerclass Solution: def rotate(self, nums: List[int], k: int) -> None: """ Do not return anything, modify num.. 공감수 0 댓글수 0 2024. 10. 12.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.