| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | ||||
| 4 | 5 | 6 | 7 | 8 | 9 | 10 |
| 11 | 12 | 13 | 14 | 15 | 16 | 17 |
| 18 | 19 | 20 | 21 | 22 | 23 | 24 |
| 25 | 26 | 27 | 28 | 29 | 30 | 31 |
- 언어모델
- Supervised Learning
- 인공지능
- feature engineering
- Scikitlearn
- 인공신경망
- Machine Learning
- LLM
- Unsupervised Learning
- learning algorithms
- ML
- ChatGPT
- 프롬프트 엔지니어링
- GPT
- 머신러닝
- Deep Learning
- llama
- nlp
- Andrew Ng
- prompt
- feature scaling
- bingai
- AI
- 딥러닝
- 챗지피티
- coursera
- supervised ml
- Regression
- neural network
- AI 트렌드
- Today
- Total
목록GPT (6)
My Progress
[Supervised ML] Feature Engineering - 7
1. What is Feature Engineering? Using intuition to design new features, by transforming or combinging original features. Example) House price. If we are given the dimension of the house such as length and width, we can create a new variable to include for price prediction of a house. For example, we create a area variable with length and width. 2. Feature engineering in Polynomial Regression We ..
[Supervised ML] Gradient descent / Learning Rate - 6
1. Checking Gradient descent for convergence How to check if Gradient descent is working well? 1.1 Graph This graph is called Learning curve. As the iteration increases, the minimum cost should decrease. If the graph remains constant after enough iterations, we call that it has converged 1.2 Epsilon / Automatic convergence test Let epsilon be 0.001 If the cost function decreaes by epsilon in one..
[Supervised ML] Feature scaling - 5
1. Intuition House example: Lets say we are predicting the price of a house based on its size and number of bed rooms. Number for size of a house is relatively larger than the number of bed rooms. This large difference between numbers will make it hard to accurately predict the price. How is this related to gradient descent? Since the number for size is large, it takes smaller w value to make a ..
[Supervised ML] Regression/ Cost function - 2
1. Linear Regression Purpose: To predict the output based on the given examples or dataset 1. 1 Terminology Univariate linear regression: Linear regression with one(single feature x) variable fw,b(x) = wx + b 1.2 Code Necessary Libraries #Numpy, a popular library for scientific computing import numpy as np #Matplotlib, a popular library for plotting data import matplotlib.pyplot as plt x_train =..
[NLP] GPT-4 성능하락 관련 논문 요약
1. 연구목적:GPT-4와 GPT-3.5의 2023 3월과 6월에 스냅샷 된 두가지 버전사이의 변화 측정 2. 연구방법4가지 작업에 대해서 평가 1. 수학문제풀이: 정확도비교2. 민감하거나 위험한 질문에 대한 답변: 답변률3. 코드생성: 생성된 코드로 직접 실행 가능여부4. 시각적 추론: 정확성 추가 측정 방법:1. 생성길이2. 답변이 일치하는지에 대한 중복성과 일관성 3. 4가지 작업에 대한 비교 평가 4. 연구 결과 - GPT-3.5와 GPT-4의 행동이 짧은 시간 동안 상당히 변했다는 것을 확인했다.- 대형 언어 모델의 행동을 지속적으로 평가하고 검증해야한다 출처: https://arxiv.org/pdf/2307.09009.pdf
[NLP] 2023 Summer LLM/언어모델 시장 트렌드
2023 Summer AI/언어모델 시장은 크게 3가지로 나눌수있다.1. 기업들간 생성 AI 경쟁 과열2. Open source와 Closed Source 언어모델들간의 경쟁3. AI 발전에 대한 우려 1.기업들간의 생성 AI 경쟁 과열 모두가 알다시피 GPT가 큰 인기를 얻게 되기 시작하면서 시장의 트렌드가 언어모델 또는 AI에 집중되었다. 수많은 기업들이 LLM(Large Language Model)/ 언어모델을 개발을 하면 경쟁을 하기 시작한다. 기업들간의 경쟁1. ChatGPT by OpenAI2. Bard by Google3. Bing AI by Microsoft4. LLaMA by Meta5. 기타 등등이렇게 수많은 언어모델들이 앞다투어 나오기 시작한다. 이 트렌드에 힘 입어 수많은 기업들이 ..