최근 Meta에서 llama 모델을 발표하고 있죠. 소스코드까지 공개하는 모델이고요. 기존에 상용 서비스를 하고 있는 챗GPT나, Claude 보다 성능면에서는 뒤떨어져 있지만, 오픈소스의 장점을 살려 많은 사람들의 관심과 집단지성을 통해 변화된 다양한 모델의 활성화를 목표로 늦었지만, 시장의 주도권을 가져오겠다는 희망을 오너인 쥬커버그의 언급을 통해 알 수 있었죠.이전 글에서 llama 3.1 모델의 설치 및 활용 등에 대해 글을 작성했었으므로, 오늘부터는 실제 모바일 앱으로 어떻게 구성할 수 있을지에 대해 정리해 보려 합니다.  Llama 3.2 3b 모델을 활용한 모바일 앱인공지능(AI)의 발전 특히, 자연어 처리(NLP) 기술은 텍스트 생성, 대화형 AI, 번역 등 다양한 분야에서 큰 변화를 주도..

인공지능이라는 단어가 등장할 때 가장 먼저 떠오르는 두 가지 개념이 바로 딥러닝(Deep Learning)과 강화학습(Reinforcement Learning)입니다. 하지만 많은 사람들은 이 두 가지가 무엇을 의미하는지, 그리고 어떻게 다른지 명확하게 알지 못합니다. 간단히 말해, 딥러닝은 데이터를 기반으로 패턴을 학습하는 기술이고, 강화학습은 보상을 바탕으로 행동을 학습하는 방법입니다. 이번 글에서는 이 두 가지 기술에 대해 살펴보겠습니다.    딥러닝: 인공지능의 뇌가 되다딥러닝(Deep Learning)은 인간의 뇌를 모방한 인공지능 기술로, 컴퓨터가 대량의 데이터를 통해 학습하고 예측할 수 있도록 하는 머신러닝(Machine Learning)의 한 갈래입니다. 딥러닝은 특히 복잡한 문제를 처리할..

캐글(Kaggle)은 데이터 과학, 인공지능, 머신러닝에 관심 있는 사람들이 함께 모여 지식을 공유하고, 실력을 키우며, 문제를 해결할 수 있는 커뮤니티이자 플랫폼입니다. 이곳에서 제공하는 여러 기능과 활동을 통해 초보자부터 전문가까지 다양한 사람들이 자신의 능력을 발전시키고 커리어를 향상할 수 있습니다. 이제부터 자세히 설명하겠습니다. 캐글 Kaggle을 활용한 데이터 과학 입문  캐글 Kaggle이란?데이터 과학 및 머신러닝 플랫폼: 데이터 분석, 머신러닝, 인공지능을 배우고 싶은 사람들이 모여 실습할 수 있는 공간입니다.커뮤니티: 수많은 데이터 과학자, 개발자, 연구자가 활동하며 서로 지식을 공유하고 도움을 주고받는 커뮤니티입니다.실습 환경 제공: 실습용 노트북 환경, GPU 및 TPU 지원, 다양..

이번에는 프롬프트 엔지니어링의 개념과 이 기술이 다양한 산업 분야에서 어떻게 활용될 있는지 살펴보도록 하겠습니다. 특히, 인공지능 (AI) 언어 모델을 효과적으로 활용하는 방법에 대해 예시를 통해 설명해 보도록 하겠습니다. 프롬프트 엔지니어링프롬프트 엔지니어링은 인공지능 모델(특히 대규모 언어 모델, LLM)을 최적의 성능으로 활용하기 위해 적절한 입력을 설계하는 과정입니다. 사용자가 원하는 결과를 도출하기 위해 어떻게 질의하고 구조화하는지에 따라 AI의 출력 결과가 크게 달라질 수 있습니다. 특히 챗GPT와 같은 언어 모델이 다양한 산업에서 점점 더 중요해지고 있습니다. 프롬프트가 다양한 산업에서 중요한 역할을 하는 이유 AI가 다양한 산업에서 채택되면서 효율성과 생산성을 극대화하려면 AI 모델과의 상..

최근 llama 3.1에 대한 이야기를 계속하게 되네요. 역시 뭔가 부족한 부분이 있으면 계속 보게 되는 것 같습니다. 오늘도 역시 llama 3.1 그것도 8b 버전의 성능 향상을 위한 방법으로 프롬프트 엔지니어링에 대해 이야기해 보겠습니다. llama 3.1 성능 향상하기 ft. 프롬프트 엔지니어링프롬프트 엔지니어링이란 LLM에게 최적의 입력(프롬프트)을 제공하여 원하는 출력을 얻어내는 기술을 말합니다. 이는 단순히 질문을 던지는 것 이상의 것으로, 모델의 '사고 과정'을 효과적으로 유도하는 것입니다. 적절한 프롬프트 엔지니어링을 통해 우리는 LLM의 성능을 크게 향상시킬 수 있으며, 때로는 모델의 한계를 뛰어넘는 결과를 얻을 수도 있습니다.  프롬프트 엔지니어링의 기본 원리프롬프트 엔지니어링을 이해..

오늘은 인터넷 사용자들의 프라이버시 보호에 대한 인식을 높이고, 대안적인 검색 엔진인 DuckDuckGo의 특장점과 기술적 배경을 소개하려 합니다. 특히, 사용자의 데이터를 추적하고 맞춤형 광고를 제공하는 구글과 같은 대형 검색 엔진의 문제점을 부각하면서, DuckDuckGo에 관심을 갖게 합니다.  "당신의 디지털 발자국을 지우는 방법: DuckDuckGo" 우리는 매일 수십 번씩 검색창을 두드립니다. "오늘 날씨는?", "가까운 맛집", "주식 시세"... 하지만 이런 평범한 검색이 우리의 프라이버시를 위협하고 있다는 사실, 알고 계셨나요? 여기 구글과 네이버의 대안으로 떠오른 '오리'가 있습니다. 바로 DuckDuckGo(덕덕고)입니다.  오리의 반란: DuckDuckGo의 탄생2008년, 한 프로..

오늘은 langchain의 특징을 살려 이전에 설치했던 Meta의 인공지능 언어 모델 llama 3.1의 부족한 부분을 보완하는 방법에 대해 이야기하려 합니다.Llama 3.1의 한계를 LangChain으로 보완하기  1. Llama 3.1 8B의 한계 5기가 바이트도 안 되는 용량에 비해 뛰어난 성능이라 평가받는 llama 3.1, 최근 업데이트로 한글 능력도 어느 정도 인정할만하다는 평가를 받고는 있습니다. 하지만, 이러한 호평에서도 llama 3.1을 자주 사용하다 보면 우리는 쉽게 그 능력의 한계를 찾을 수 있기도 합니다. 아래 그림은 그 예중 하나인데요, llama에게 "오늘의 비트코인 추세에 대해 말해줘?" 요청했더니, 아래 그림과 같이 대답을 합니다. 라마 3.1의 대답을 옮겨 적어보면 아래..