전체 글
-
Meta Llama 3.1 Review - blogNatural Language Processing 2024. 7. 24. 23:33
Llama 3.1 소개SOTA 언어 모델과 견줄 수 있는 open-source 모델8B, 70B, 405B 규모의 모델 제공, 8개의 다국어 지원, 128K의 context length모델 구조15T 토큰이 넘는 Llama 3.1 405B를 학습하기 위해 전체 training stack 최적화 및 16,000개 이상의 H100 GPUs로 학습 진행학습 과정training 안정성을 위해 MOE 모델이 아닌 약간의 수정을 거친 표준 decoder-only transformer 모델 구조를 채택iterative post-training 방식을 채택각 round에서 SFT 및 direct preference optimization 진행. 이는 높은 품질의 합성 데이터 생성 및 성능 향상을 가능케 함pre- 및 ..
-
AICE 작은 예제 및 참고용 코드카테고리 없음 2024. 6. 27. 13:21
1. 전처리 - train, validation 함께 전처리 => 전처리(ex> 정규화 기준 동일하게) 2. 그래프- ax = sns.countplot(x=df_total['level1_pnu'], palette = "RdBu")- sns.distplot(df_total['signaltype']) - sns.boxplot(x = df_total['level1_pnu'], y = df_total['A_DISTANCE'], data = df_total, palette = "RdBu")- sns.heatmap(np.random.rand(10, 12)) => 상관관계 분석 등에서 한 눈에 바로 확인할 수 있는 차트- sns.pairplot(df_total) => 데이터 프레임의 수치형 변수를 기준으로 밀도와 분..
-
[Django] Django 설치 및 튜토리얼 뽀개기! - 1편Web Programming/Django 2023. 3. 1. 17:31
[Django 설치 및 프로젝트 생성] 1. Django 설치 방법 python -m pip install Django 2. 'mysite'라는 프로젝트 만들기 django-admin startproject mysite 현재 디렉토리 안에 'mysite'라는 디렉토리가 생성되며 구조는 다음과 같음 (디렉토리 구조 보는 명령어: tree /a /f ) 3. 프로젝트가 잘 돌아가는지 확인 manage.py 가 있는 디렉토리에서 아래 명령어 실행 python manage.py runserver _____ (포트 혹은 서버 IP 바꾸려면 빈칸에 추가하면 됨) http://127.0.0.1:8000/ 에 접속하면 아래와 같은 화면이 뜸 => 성공! [설문조사 앱(App) 만들기] manage.py 가 있는 디렉토..
-
Python으로 구현하는 Linked List (3) 양방향 Linked ListData Structure 2022. 9. 7. 02:04
https://uding.tistory.com/106?category=995002 Python으로 구현하는 Linked List (2) 단방향 Linked List https://uding.tistory.com/105 Python으로 구현하는 Linked List (1) 간단한 단방향 Linked List Linked List란? Linked List는 링크를 통해 데이터들이 시퀀 형태로 연결된 것임 링크는 일종의 포인터로 각 데이.. uding.tistory.com 이전의 단방향 연결 리스트를 개선한 양방향 연결 리스트를 구현해보자. 양방향 연결 리스트는 말 그대로 앞으로 or 뒤로 이동할 수 있다. 개선된 노드는 아래 그림과 같이 prev & next 링크를 가지고 있는 형태이다. class Node..
-
Python으로 구현하는 Linked List (2) 단방향 Linked ListData Structure 2022. 9. 6. 14:18
https://uding.tistory.com/105 Python으로 구현하는 Linked List (1) 간단한 단방향 Linked List Linked List란? Linked List는 링크를 통해 데이터들이 시퀀 형태로 연결된 것임 링크는 일종의 포인터로 각 데이터를 다른 데이터와 연결함 node는 링크드 리스트의 구성하는 자료로 데이터와 링크(포 uding.tistory.com 이전의 간단한 단방향 연결 리스트를 개선한 연결 리스트를 구현해보자 linked list는 삽입과 삭제가 유연하다는 장점이 있으므로 이러한 장점을 살리기 위해 insertAfter(prev, newNode) 및 popAfter(prev)와 같은 메소드를 구현한다. 이전과는 다르게 pos(위치) 정보를 이용하는 것이 아닌 ..
-
Python으로 구현하는 Linked List (1) 간단한 단방향 Linked ListData Structure 2022. 8. 31. 21:37
Linked List란? Linked List는 링크를 통해 데이터들이 시퀀 형태로 연결된 것임 링크는 일종의 포인터로 각 데이터를 다른 데이터와 연결함 node는 링크드 리스트의 구성하는 자료로 데이터와 링크(포인터)로 구성됨 단방향을 가지는 singly Linked List와 양방향을 가지는 doubly Linked List로 구성됨 Linked List 구현하기 1. 간단한 단방향 Linked List 먼저 노드(node)는 데이터와 링크(next)로 구성되며 class로 구현한다. class Node: def __init__(self, item): self.data = item self.next = None Linked List는 노드들이 시퀀스로 연결된 것으로 class로 구현한다. Linked..