전꽃비블로그

인공지능 환각 이해하기: 현상 탐색 서론 인공지능(AI)은 특히 자연어 처리 및 이미지 생성 분야에서 최근 몇 년 동안 괄목할 만한 발전을 이루었다. 인공지능의 매혹적이고 수수께끼 같은 측면 중 하나는 믿을 수 없을 정도로 진짜처럼 보이지만 완전히 합성된 콘텐츠를 환각하거나 만들어내는 능력이다. 인공지능 환각은 연구자, 엔지니어, 일반 대중 모두의 관심을 사로잡은 현상이다. 이 담론에서, 우리는 인공지능 환각의 영역을 깊이 파고들 것이며, 그것의 함의, 응용 및 과제를 이해할 것이다. 1. 인공지능 환각의 정의 종종 "딥 드림" 또는 "AI 생성 콘텐츠"로 표시되는 AI 환각은 AI 모델, 특히 딥 러닝 기반 생성 모델이 실제 데이터와 유사한 합성 출력을 만드는 과정이다. 이러한 출력은 이미지, 비디오,..

ChatGPT 란? 일론 머스크가 공동창업한 OpenAI에서 서비스하는 인공지능 챗봇 서비스 NLP(자연어 처리) 모델 중 하나인 GPT 를 채팅 형식으로 파인 튜닝한 AI 현재 기준으로 GPT-3.5와 GPT-4 버전 사용, 2021년까지의 데이터로 학습 사용자가 입력한 프롬프트를 바탕으로 최적의 답변을 생성 GPT-3.5는 1750억 개의 파라미터를 가지며, RLHF를 통해 GPT3를 대화에 최적화 GPT(Generative Pre-trained Transformer)란? 한국어로 직역하면 사전 훈련된 생성 변환기이다. 미리 입력된 데이터를을 가공, 재구성한다는 의미이다. 입력 문장 벡터 데이터를 다시 재구성하여 자연어 출력을 한다. 과거의 chat bot 들과 다르게 Auto Regressive 방..

최근에 페이스북의 메신저에서 서비스 중이던 통칭, AI 이루다 라는 챗봇 서비스가 중단되었다. 그 이유는 몇 년전 테이 처럼 인종차별, 장애인 비하 등 부적절한 발언과 만든 팀의 무분별한 데이터 크롤링으로 인해 개인정보를 유출해 버렸기 때문이다. (이루다 ai 을 만든 pingpong팀은 DB관리도 안하나 보다) 이루다는 나중에 다시 서비스하게 되겠지만 테이(Tay) 이후로 또 다시 인공지능에 관한 윤리적 문제가 수면 위로 떠올랐다. 전꽃비도 직접 개인적인 용도로 실험 프로젝트 챗봇을 만들어본 경험이 있다. 전꽃비는 자신이 만든 챗봇의 도덕적 자유를 위해 온갖 비속어 등도 허용하였는데 그 결과는 참담했다. 베타 테스터들과 함께 대화를 진행했지만 전꽃비의 챗봇은 대화의 대부분을 비속어로 구사했다. 이미 많..