본문 바로가기
반응형

전체 글83

비용 절감과 동시에 LinkedIn의 저장소 확장 LinkedIn은 초당 4만 개 이상의 회원 프로필을 제공합니다. 요청 수는 매년 두 배로 증가하고 있습니다. 과거에는 Oracle에서 오픈 소스 문서 플랫폼인 Espresso로 마이그레이션하고 더 많은 노드를 추가하여 대기 시간, 처리량 및 비용 문제를 해결했습니다. 우리는 이제 증가하는 부하로 인해 일부 핵심 구성 요소에 부담을 주고 있으며 더 이상 노드 추가 전략으로 확장 문제를 해결할 수 없습니다. 대신 Couchbase를 읽기 확장을 위한 중앙 집중식 스토리지 계층 캐시로 도입하기로 결정했습니다. 이 솔루션은 99% 이상의 캐시 적중률을 달성하고, 꼬리 대기 시간을 60% 이상 줄였으며, 서비스 비용을 연간 10% 줄였습니다. 이 결정은 또한 캐시가 기본 스토리지 인프라에 의해 지원되지 않기 때.. 2023. 7. 9.
LLM Application HTML 삽입 미리보기할 수 없는 소스 대규모 언어 모델은 소프트웨어 빌드를 위한 강력한 새로운 기본 요소입니다. 그러나 그것들은 매우 새롭고 일반적인 컴퓨팅 리소스와 매우 다르게 작동하기 때문에 그것들을 사용하는 방법이 항상 명확하지는 않습니다. LLM을 사용하여 빌드하는 방법에는 처음부터 모델 학습, 오픈 소스 모델 미세 조정 또는 호스팅된 API 사용 등 다양한 방법이 있습니다. 여기서 보여드리는 스택은 컨텍스트 내 학습을 기반으로 하며, 이는 대부분의 개발자가 시작하는 디자인 패턴입니다(현재는 기본 모델에서만 가능). 컨텍스트 내 학습의 핵심 아이디어는 LLM을 기성품으로 사용한 다음(즉, 미세 조정 없이) 개인 "컨텍스트" 데이터에 대한 영리한 프롬프트 및 컨디셔닝을 통해 동작을 제어하는 것입니.. 2023. 7. 9.
일본은 AI 교육에 투자 일본은 학교에서 AI 교육에 투자하고 있습니다. 교사와 학부모도 AI 교육에 참여하도록 장려됩니다. 목표는 젊은이들이 AI의 책임감 있는 사용자를 만드는 것입니다. 일본 학교의 AI 교육은 전 세계 커리큘럼의 길을 열 수 있습니다. 일본 문부성의 새로운 지침은 학생들이 인공 지능을 이해하는 것의 중요성을 강조합니다. 4일 화요일 발매일 7월, 가이드라인은 생성형 AI를 학교에 통합할 수 있는 방법과 관련 위험을 해결하는 데 필요한 예방 조치를 제시합니다. 영어 학습에 AI를 사용하는 것이 촉진되고 기술이 그룹 활동에 통합될 것입니다. 학생들은 다양한 관점에 대해 질문하고 다룰 수 있어 토론의 깊이를 높일 수 있습니다. AI 교육 – AI 세계의 장단점 배우기 학생들은 AI를 사용하기 전에 AI의 장점과 .. 2023. 7. 8.
Meta 에서 threads 출시 메타에서 제공되는 threads 란 무엇일까요? threads 는 메타의 새로운 기능으로, 페이스북 그룹에서 주제별로 대화를 나눌 수 있게 해줍니다. threads 를 사용하면 그룹 멤버들이 관심 있는 주제에 대해 더 쉽게 참여하고, 정보를 공유하고, 서로 소통할 수 있습니다. threads 는 어떻게 사용할 수 있을까요? threads 를 사용하려면 먼저 페이스북 그룹에 가입해야 합니다. 그룹에 가입하면 그룹 관리자가 설정한 주제들을 볼 수 있습니다. 주제는 그룹의 홈 화면에서 상단에 나타나며, 각 주제에는 관련된 게시물들이 모여 있습니다. 주제를 클릭하면 해당 주제에 대한 threads 화면으로 이동합니다. threads 화면에서는 주제에 대한 게시물들을 볼 수 있으며, 새로운 게시물을 작성하거나, .. 2023. 7. 6.
지시 모델은 HELM 벤치마크에서 모든 개방형 7B 모델을 능가 HTML 삽입 미리보기할 수 없는 소스 RedPajama 프로젝트는 오픈 소스 AI의 혁신을 촉진하고자 하는 연구자들을 위한 훌륭한 자원입니다. 이 프로젝트는 최신의 오픈 소스 모델들을 깊이 있게 분석하고, 그들이 어떻게 놀라운 성능을 달성하는지를 밝히는 것을 목표로 합니다. 이번 달에는 LLaMA 논문에서 제안한 RedPajama 기본 데이터 세트를 공개했습니다. 이 데이터 세트는 오픈 소스 AI 모델들의 다양한 측면을 평가할 수 있는 풍부하고 다양한 데이터를 제공합니다. 5테라바이트 크기의 데이터 세트는 이미 많은 관심을 받고 있습니다. 수천 명의 연구자들이 다운로드했으며, 100개 이상의 모델들이 이 데이터 세트를 사용하여 훈련되었습니다. RedPajama 프로젝트는 오픈 소스 AI 커뮤니티에 큰 .. 2023. 7. 5.
생성형 AI의 경제적인 미래 #1 인공지능은 스마트폰을 구동하는 기술부터 자동차의 자율 주행 기능, 소매업체가 소비자를 놀라게 하고 기쁘게 하는 데 사용하는 도구에 이르기까지 모든 것을 통해 점진적으로 우리 삶에 스며들었습니다. HTML 삽입 미리보기할 수 없는 소스 딥마인드(DeepMind)가 개발한 인공지능(AI) 기반 프로그램인 알파고(AlphaGo)가 2016년 세계 바둑 선수를 꺾은 것과 같은 명확한 이정표는 축하를 받았지만 대중의 의식에서 빠르게 사라졌습니다. ChatGPT, GitHub Copilot, Stable Diffusion과 같은 생성형 AI 애플리케이션은 거의 모든 사람이 의사 소통하고 만드는 데 사용할 수 있는 광범위한 유용성과 사용자와 대화할 수 있는 초자연적인 기능 덕분에 AlphaGo가 하지 못한 방식으로 .. 2023. 7. 2.
반응형

티스토리툴바