잡동사니

From unpredictable AI outputs to production-ready LLM systems📌 TL;DRPrompt engineering improves output quality, but it does not guarantee reliabilityMost LLM systems fail in production because they cannot handle failureValidation layers, retry loops, and strict output contracts are what make AI automation reliableReliable AI agent systems are built with control systems, not just better promptsT..

From Unpredictable AI to Reliable SystemsLessons from Building Real-World AI Agent SystemsTL;DRPrompt engineering improves output quality, but it does not guarantee reliabilityLLM systems fail because outputs are probabilistic, not deterministicMulti-step AI agent pipelines amplify failure probabilitiesProduction-grade LLM systems require validation, retry loops, and convergence mechanismsReliab..

Lessons learned from building a real-world LLM coding agent with local models📌 TL;DRLLMs are non-deterministic → same input, different outputsPipeline architectures amplify failure probabilitiesPrompt engineering improves outputs but cannot guarantee reliabilityThe real solution is not better prompts, but convergence systems1. Problem — You Can’t Even Get Stable OutputsI wanted to build a local..

안녕하세요. yeti 입니다.오늘은 제가 실제로 운영 중인 AI 개발 환경과 AI 코딩 도구 운영 전략을 공유하려고 합니다.특히 이 글은 단순한 AI 도구 추천이 아니라,독립 개발자가 AI 개발 비용을 직접 감당하는 환경에서 어떤 기준으로 도구를 선택하는지에 대한 기록입니다.저는 모든 AI 도구 비용을 개인이 직접 지불합니다.그래서 이 글은 생산성 관점이 아니라 비용을 통제하면서 AI 코딩 도구를 사용하는 전략에 대한 이야기입니다.문제: AI 개발 비용은 생각보다 빠르게 증가한다AI 코딩을 적극적으로 활용하면 생산성은 확실히 올라갑니다.하지만 동시에 AI 토큰 비용과 구독 비용도 빠르게 증가합니다.2025년 11~12월, Cursor IDE 사용량이 늘어나면서 월 비용이 15 ~ 20만원까지 올라간 경험..

안녕하세요. yeTi입니다.오늘은 ChatGPT를 활용하기 위해. 좀 더 정확하게는 LLM의 하나인 GPT-4o를 활용하기 위한 방법을 알아본 경험을 공유하고자 합니다.특히 ChatGPT 빌더와 OpenAI Assistants API를 비교하여 각각의 기능과 사용 사례를 살펴보고자 합니다. 이 두 도구는 AI 기반의 대화형 시스템을 구축하는 데 중요한 역할을 하며, 각자의 장단점과 활용 방안이 다릅니다.ChatGPT 빌더 소개ChatGPT 빌더는 OpenAI에서 제공하는 도구로, 사용자가 코드 없이도 맞춤형 챗봇을 쉽게 만들 수 있도록 지원합니다. 주요 기능으로는 간편한 설정, 다양한 프롬프트 작성, 사용자 정의 인터페이스 등이 있습니다.실제로 제가 만들어본 사주팔자라는 것이 ChatGPT 빌더를 활용한..

안녕하세요. yeTi입니다. 현대 인공지능의 발달은 대화형 AI, 특히 대형 언어 모델(LLM)과의 상호작용을 더욱 자연스럽게 만들고 있습니다. 그러나 인간과 LLM의 대화에서 기억과 맥락의 역할은 어떻게 다를까요? 이 글에서는 인간의 대화와 LLM 상호작용에서 기억과 맥락의 중요성을 살펴보고, 이 두 가지가 어떻게 대화의 질을 향상시키는지 알아보겠습니다.인간 대화에서 기억과 맥락의 역할인간은 대화를 할 때 장기 기억과 작업 기억을 활용합니다. 장기 기억은 오랜 시간 동안 정보를 저장하고, 과거의 경험과 지식을 기반으로 새로운 정보를 처리합니다. 작업 기억은 일시적으로 정보를 유지하며, 복잡한 문제 해결과 의사 결정에 중요한 역할을 합니다.연속적 맥락 처리는 인간 대화의 중요한 요소입니다. 우리는 대화..

안녕하세요. yeTi입니다.오늘은 LLM 이 삶의 방식을 바꿀 수 있다는 확신이 든 순간을 공유하고자 합니다.대화는 인간 상호작용의 핵심입니다. 우리는 일상적으로 많은 대화를 나누지만, 이를 데이터의 관점에서 바라본다면 새로운 통찰을 얻을 수 있습니다. 이제 대화를 데이터 송수신의 과정으로 보고, 이를 통해 대화의 본질을 이해하는 방법을 알아보겠습니다.데이터란 언어 그 자체이다2024년 5월 5일 데이터와 언어를 엮은 발상을 페이스북에 업로드했습니다. 데이터란 언어 그 자체이다.이하 해당 컨텐츠의 내용을 인용합니다.데이터라는 것이 뭘까를 고민하다가 도달한 결론이 있습니다.언어를 시각화한 것이다.그 동안 개발자 입장에서 데이터는 스키마를 가진 하드디스크에 기록된 무엇인가 였습니다.예를 들어 텍스트 파일, ..

안녕하세요. yeTi입니다.오늘은 ChatGPT, Claude, Gemini와 같은 대화형 AI 서비스와 이들이 사용하는 언어 모델들, 그리고 이러한 모델들을 직접 사용할 수 있는 방법에 대해 알아보려고 합니다.ChatGPT, Claude, Gemini란 무엇인가?이들은 모두 대화형 AI 서비스 입니다.여기서 대화형 AI 서비스 란? LLM(자연어 처리 모델)이라는 AI 모델을 서비스로 제공하는 것을 말합니다.ChatGPT:개발사: OpenAI기반 모델: GPT-4특징: 대화형 AI 서비스로, 사용자와의 자연스러운 대화를 제공Claude:개발사: Anthropic기반 모델: Claude 2특징: 안전하고 윤리적인 AI를 목표로 한 대화형 AI 서비스Gemini:개발사: Google DeepMind기반 ..

안녕하세요. yeTi입니다.오늘은 OpenAI API를 활용하여 다양한 인공지능 모델에 접근기 위해서 OpenAI API의 가격 정책에 대해 알아보고자 합니다. 주로 GPT-4 모델과 그 변형인 GPT-4 Turbo 모델의 차이점, 그리고 토큰 기반 가격 책정 방식에 대해 알아봤습니다.OpenAI API 가격 개요OpenAI의 주요 모델들은 사용량에 따라 가격이 다릅니다. 여기서는 GPT-4와 GPT-3.5 모델을 중심으로 알아봅니다.GPT-4GPT-4-8K:Prompt Tokens: $0.03 per 1,000 tokensCompletion Tokens: $0.06 per 1,000 tokensGPT-4-32K:Prompt Tokens: $0.06 per 1,000 tokensCompletion Tok..

안녕하세요. yeTi입니다. ChatGPT의 활용법 (feat. 정보수집 방식의 전환) 에서 ChatGPT의 쓰임새를 인식하고 ChatGPT를 활용하여 궁금증을 해소한 예시를 공유하고자 합니다. 문답 코틀린의 가치는 뭐라고 생각해? Kotlin의 value 나 worth는 몇 가지 방식으로 해석할 수 있습니다: 시장 가치: Kotlin은 Android 앱 개발에 널리 사용되는 프로그래밍 언어이며 업계에서 널리 사용되고 있습니다. Kotlin에 능숙한 개발자는 종종 좋은 직업 전망을 가지고 있으며 경쟁력 있는 급여를 받을 수 있습니다. 오픈 소스 커뮤니티: Kotlin은 오픈 소스이며, 그 가치는 커뮤니티의 힘으로 측정할 수 있습니다. 커뮤니티가 활발하다는 것은 개발자를 위한 지속적인 개발, 지원 및 풍부..