আমরা এর মাধ্যমে প্রতিক্রিয়া স্ট্রিমিংয়ের উপলব্ধতা ঘোষণা করতে পেরে উত্তেজিত আমাজন সেজমেকার বাস্তব সময়ের অনুমান। এখন আপনি ক্রমাগত অনুমান প্রতিক্রিয়া ক্লায়েন্টের কাছে স্ট্রিম করতে পারেন যখন সেজমেকার রিয়েল-টাইম ইনফারেন্স ব্যবহার করে আপনাকে জেনারেটিভ এআই অ্যাপ্লিকেশন যেমন চ্যাটবট, ভার্চুয়াল সহকারী এবং মিউজিক জেনারেটরগুলির জন্য ইন্টারেক্টিভ অভিজ্ঞতা তৈরি করতে সহায়তা করে। এই নতুন বৈশিষ্ট্যটির সাহায্যে, আপনি সম্পূর্ণ প্রতিক্রিয়া তৈরি হওয়ার জন্য অপেক্ষা করার পরিবর্তে প্রতিক্রিয়াগুলি উপলব্ধ হলে অবিলম্বে স্ট্রিমিং শুরু করতে পারেন। এটি আপনার জেনারেটিভ এআই অ্যাপ্লিকেশনের জন্য টাইম-টু-ফার্স্ট-বাইট কমিয়ে দেয়।
এই পোস্টে, আমরা দেখাব কীভাবে একটি ইন্টারেক্টিভ চ্যাট ব্যবহারের ক্ষেত্রে নতুন প্রতিক্রিয়া স্ট্রিমিং বৈশিষ্ট্য সহ সেজমেকার রিয়েল-টাইম এন্ডপয়েন্ট ব্যবহার করে একটি স্ট্রিমিং ওয়েব অ্যাপ্লিকেশন তৈরি করা যায়। আমরা নমুনা ডেমো অ্যাপ্লিকেশন UI এর জন্য Streamlit ব্যবহার করি।
সমাধান ওভারভিউ
SageMaker থেকে প্রতিক্রিয়াগুলি ফিরে পেতে, আপনি আমাদের নতুন ব্যবহার করতে পারেন InvokeEndpointWithResponseStream API এটি একটি দ্রুত সময়-থেকে-প্রথম-প্রতিক্রিয়া-বাইট প্রদান করে গ্রাহকের সন্তুষ্টি বাড়াতে সাহায্য করে। গ্রাহক-অনুভূত লেটেন্সিতে এই হ্রাস জেনারেটিভ এআই মডেলগুলির সাথে তৈরি অ্যাপ্লিকেশনগুলির জন্য বিশেষভাবে গুরুত্বপূর্ণ, যেখানে তাত্ক্ষণিক প্রক্রিয়াকরণ সমগ্র পেলোডের জন্য অপেক্ষা করার চেয়ে মূল্যবান। অধিকন্তু, এটি একটি স্টিকি সেশন প্রবর্তন করে যা ইন্টারঅ্যাকশনের ধারাবাহিকতা সক্ষম করবে, আরও স্বাভাবিক এবং দক্ষ ব্যবহারকারীর অভিজ্ঞতা তৈরি করতে চ্যাটবটের মতো ব্যবহারের ক্ষেত্রে উপকৃত হবে।
সেজমেকার রিয়েল-টাইম এন্ডপয়েন্টে রেসপন্স স্ট্রিমিং এর বাস্তবায়নের মাধ্যমে অর্জন করা হয় HTTP 1.1 খণ্ডিত এনকোডিং, যা একাধিক প্রতিক্রিয়া পাঠানোর জন্য একটি প্রক্রিয়া। এটি একটি HTTP মান যা বাইনারি সামগ্রী সমর্থন করে এবং বেশিরভাগ ক্লায়েন্ট/সার্ভার ফ্রেমওয়ার্ক দ্বারা সমর্থিত। HTTP খণ্ডিত এনকোডিং টেক্সট এবং ইমেজ ডেটা স্ট্রিমিং উভয়কেই সমর্থন করে, যার অর্থ SageMaker এন্ডপয়েন্টে হোস্ট করা মডেলগুলি পাঠ্য বা চিত্র হিসাবে স্ট্রিম করা প্রতিক্রিয়াগুলিকে ফেরত পাঠাতে পারে, যেমন বাজপাখি, লামা 2, এবং স্থিতিশীল বিস্তার মডেল নিরাপত্তার ক্ষেত্রে, TLS ব্যবহার করে ইনপুট এবং আউটপুট উভয়ই সুরক্ষিত হয় AWS Sigv4 Auth. অন্যান্য স্ট্রিমিং কৌশল যেমন সার্ভার-প্রেরিত ইভেন্ট (SSE) একই HTTP খণ্ডিত এনকোডিং প্রক্রিয়া ব্যবহার করে প্রয়োগ করা হয়। নতুন স্ট্রিমিং API-এর সুবিধা নিতে, আপনাকে নিশ্চিত করতে হবে যে মডেল কন্টেইনারটি স্ট্রিম করা প্রতিক্রিয়াকে খণ্ডিত এনকোডেড ডেটা হিসাবে ফিরিয়ে দেয়।
নিম্নলিখিত চিত্রটি সেজমেকার ইনফারেন্স এন্ডপয়েন্টের সাথে প্রতিক্রিয়া স্ট্রিমিংয়ের জন্য উচ্চ-স্তরের আর্কিটেকচারকে চিত্রিত করে।
স্ট্রিমিং রেসপন্স থেকে উপকৃত হবে এমন একটি ব্যবহার হল জেনারেটিভ এআই মডেল-চালিত চ্যাটবট। ঐতিহ্যগতভাবে, ব্যবহারকারীরা একটি প্রশ্ন পাঠান এবং একটি উত্তর পাওয়ার আগে সম্পূর্ণ প্রতিক্রিয়া তৈরি হওয়ার জন্য অপেক্ষা করেন। এটি মূল্যবান সেকেন্ড বা আরও বেশি সময় নিতে পারে, যা অ্যাপ্লিকেশনটির কার্যকারিতাকে সম্ভাব্যভাবে হ্রাস করতে পারে। প্রতিক্রিয়া স্ট্রিমিংয়ের সাথে, চ্যাটবট আংশিক অনুমান ফলাফলগুলি তৈরি হওয়ার সাথে সাথে ফেরত পাঠানো শুরু করতে পারে। এর মানে হল যে ব্যবহারকারীরা প্রায় তাৎক্ষণিকভাবে প্রাথমিক প্রতিক্রিয়া দেখতে পারেন, এমনকি AI পটভূমিতে তার উত্তর পরিমার্জন চালিয়ে যাচ্ছে। এটি একটি নিরবচ্ছিন্ন এবং আকর্ষক কথোপকথন প্রবাহ তৈরি করে, যেখানে ব্যবহারকারীরা মনে করেন যে তারা এমন একটি AI এর সাথে চ্যাট করছেন যা বাস্তব সময়ে বোঝে এবং প্রতিক্রিয়া জানায়৷
এই পোস্টে, আমরা প্রতিক্রিয়া স্ট্রিমিং সহ একটি সেজমেকার এন্ডপয়েন্ট তৈরি করতে দুটি কন্টেইনার বিকল্প প্রদর্শন করি: একটি AWS ব্যবহার করে বড় মডেল অনুমান (LMI) এবং আলিঙ্গন মুখ টেক্সট জেনারেশন ইনফারেন্স (TGI) পাত্র। নিম্নলিখিত বিভাগগুলিতে, আমরা আপনাকে বিস্তারিত বাস্তবায়ন পদক্ষেপগুলি স্থাপন এবং পরীক্ষা করার জন্য নিয়ে চলেছি Falcon-7B-নির্দেশ SageMaker এ LMI এবং TGI উভয় কন্টেইনার ব্যবহার করে মডেল। আমরা একটি উদাহরণ হিসাবে Falcon 7B বেছে নিয়েছি, তবে যে কোনও মডেল এই নতুন স্ট্রিমিং বৈশিষ্ট্যটির সুবিধা নিতে পারে।
পূর্বশর্ত
আপনার সাথে একটি AWS অ্যাকাউন্ট প্রয়োজন এডাব্লুএস আইডেন্টিটি এবং অ্যাক্সেস ম্যানেজমেন্ট সমাধানের অংশ হিসাবে তৈরি সংস্থানগুলি পরিচালনা করার অনুমতি সহ (IAM) ভূমিকা। বিস্তারিত জানার জন্য, পড়ুন একটি AWS অ্যাকাউন্ট তৈরি করা হচ্ছে. যদি এটি আপনার সাথে প্রথমবার কাজ করেন অ্যামাজন সেজমেকার স্টুডিও, আপনাকে প্রথমে একটি তৈরি করতে হবে সেজমেকার ডোমেইন. অতিরিক্তভাবে, আপনাকে সংশ্লিষ্ট সেজমেকার হোস্টিং দৃষ্টান্তগুলির জন্য একটি পরিষেবা কোটা বৃদ্ধির অনুরোধ করতে হতে পারে। Falcon-7B-Instruct মডেলের জন্য, আমরা একটি ml.g5.2xlarge SageMaker হোস্টিং উদাহরণ ব্যবহার করি। একটি Falcon-40B-Instruct মডেল হোস্ট করার জন্য, আমরা একটি ml.g5.48xlarge SageMaker হোস্টিং উদাহরণ ব্যবহার করি। থেকে কোটা বৃদ্ধির জন্য অনুরোধ করতে পারেন পরিষেবা কোটা UI. আরো তথ্যের জন্য, পড়ুন কোটা বাড়ানোর অনুরোধ করছি.
বিকল্প 1: একটি LMI কন্টেইনার ব্যবহার করে একটি রিয়েল-টাইম স্ট্রিমিং এন্ডপয়েন্ট স্থাপন করুন
LMI কন্টেইনার হল লো-লেটেন্সি ইনফারেন্স ব্যবহারের ক্ষেত্রে AWS পরিকাঠামোতে বৃহৎ ভাষা মডেল (LLM) হোস্ট করার সুবিধার্থে সেজমেকার দ্বারা হোস্ট করা বৃহৎ মডেল অনুমানের জন্য ডিপ লার্নিং কন্টেনারগুলির মধ্যে একটি। LMI ধারক ব্যবহার করে ডিপ জাভা লাইব্রেরি (ডিজেএল) পরিবেশন করছে, যা গভীর শিক্ষার জন্য একটি ওপেন সোর্স, উচ্চ-স্তরের, ইঞ্জিন-অজ্ঞেয়বাদী জাভা ফ্রেমওয়ার্ক। এই কন্টেইনারগুলির সাথে, আপনি সংশ্লিষ্ট ওপেন-সোর্স লাইব্রেরিগুলি ব্যবহার করতে পারেন যেমন ডিপস্পিড, দ্রুততর করা, ট্রান্সফরমার-নিউরনক্স, এবং ফাস্টার ট্রান্সফরমার অনুমানের জন্য একাধিক GPU বা এক্সিলারেটরের মেমরি ব্যবহার করার জন্য মডেল সমান্তরাল কৌশল ব্যবহার করে মডেল প্যারামিটার পার্টিশন করতে। SageMaker-এ বড় মডেল স্থাপন করতে LMI কন্টেইনার ব্যবহার করে সুবিধা সম্পর্কে আরও বিশদ বিবরণের জন্য, পড়ুন Amazon SageMaker-এ FasterTransformer ব্যবহার করে উচ্চ কার্যক্ষমতায় বড় মডেল স্থাপন করুন এবং DJLSserving এবং DeepSpeed মডেল সমান্তরাল অনুমান ব্যবহার করে Amazon SageMaker-এ বড় মডেল স্থাপন করুন. আপনি এতে LMI কন্টেনারগুলি ব্যবহার করে SageMaker-এ ওপেন-সোর্স LLM হোস্ট করার আরও উদাহরণ খুঁজে পেতে পারেন গিটহুব রেপো.
এলএমআই কন্টেইনারের জন্য, আমরা আশা করি নিম্নলিখিত নিদর্শনগুলি অনুমানের জন্য মডেল সেট আপ করতে সাহায্য করবে:
- serving.properties (প্রয়োজনীয়) - মডেল সার্ভার সেটিংস সংজ্ঞায়িত করে
- model.py (ঐচ্ছিক) - মূল অনুমান যুক্তি সংজ্ঞায়িত করার জন্য একটি পাইথন ফাইল
- requirements.txt (ঐচ্ছিক) - কোনো অতিরিক্ত পিপ চাকা ইনস্টল করতে হবে
LMI পাত্রে আপনার নিজস্ব অনুমান কোড প্রদান না করেই মডেল হোস্ট করতে ব্যবহার করা যেতে পারে। যখন ইনপুট ডেটার কোন কাস্টম প্রিপ্রসেসিং বা মডেলের ভবিষ্যদ্বাণীগুলির পোস্টপ্রসেসিং না থাকে তখন এটি অত্যন্ত কার্যকর। আমরা নিম্নলিখিত কনফিগারেশন ব্যবহার করি:
- এই উদাহরণের জন্য, আমরা Falcon-7B-Instruct মডেলটি হোস্ট করি। আমরা একটি তৈরি করতে হবে
serving.properties
আমাদের পছন্দসই হোস্টিং বিকল্পগুলির সাথে কনফিগারেশন ফাইল এবং এটিকে একটি tar.gz আর্টিফ্যাক্টে প্যাকেজ করুন। ডিজেএল সার্ভিং-এ সেট করে রেসপন্স স্ট্রিমিং সক্ষম করা যেতে পারেenable_streaming
বিকল্প মধ্যেserving.properties
ফাইল সমস্ত সমর্থিত প্যারামিটারের জন্য, পড়ুন স্ট্রিমিং পাইথন কনফিগারেশন. - এই উদাহরণে, আমরা প্রতিক্রিয়া স্ট্রিম করতে DJL সার্ভিং-এ ডিফল্ট হ্যান্ডলারগুলি ব্যবহার করি, তাই আমরা শুধুমাত্র অনুরোধ পাঠানো এবং আউটপুট প্রতিক্রিয়া পার্স করার বিষয়ে চিন্তা করি। আপনি একটি প্রদান করতে পারেন
entrypoint
একটি মধ্যে একটি কাস্টম হ্যান্ডলার সঙ্গে কোডmodel.py
ইনপুট এবং আউটপুট হ্যান্ডলার কাস্টমাইজ করার জন্য ফাইল। কাস্টম হ্যান্ডলার সম্পর্কে আরো বিস্তারিত জানার জন্য, পড়ুন কাস্টম model.py হ্যান্ডলার. - যেহেতু আমরা Falcon-7B-Instruct মডেলটি একটি একক GPU দৃষ্টান্তে হোস্ট করছি (ml.g5.2xlarge), আমরা সেট করেছি
option.tensor_parallel_degree
থেকে 1. আপনি যদি একাধিক GPU-তে চালানোর পরিকল্পনা করেন, তাহলে সেট করতে এটি ব্যবহার করুন প্রতি কর্মী GPU এর সংখ্যা. - আমরা ব্যাবহার করি
option.output_formatter
আউটপুট সামগ্রীর ধরন নিয়ন্ত্রণ করতে। ডিফল্ট আউটপুট কন্টেন্ট টাইপ হয়application/json
, তাই যদি আপনার অ্যাপ্লিকেশনের জন্য একটি ভিন্ন আউটপুট প্রয়োজন হয়, আপনি এই মানটি ওভাররাইট করতে পারেন। উপলব্ধ বিকল্পগুলি সম্পর্কে আরও তথ্যের জন্য, পড়ুন কনফিগারেশন এবং সেটিংস এবং সমস্ত DJL কনফিগারেশন বিকল্প.
SageMaker মডেল তৈরি করতে, কন্টেইনার ইমেজ URI পুনরুদ্ধার করুন:
ব্যবহার সেজমেকার পাইথন এসডিকে SageMaker মডেল তৈরি করতে এবং এটি ব্যবহার করে একটি SageMaker রিয়েল-টাইম এন্ডপয়েন্টে স্থাপন করতে স্থাপন পদ্ধতি:
যখন শেষবিন্দু পরিষেবাতে থাকে, আপনি ব্যবহার করতে পারেন InvokeEndpointWithResponseStream
মডেল আহ্বান করতে API কল. এই API মডেলটিকে সম্পূর্ণ প্রতিক্রিয়া পেলোডের অংশগুলির একটি স্ট্রিম হিসাবে প্রতিক্রিয়া জানাতে দেয়৷ এটি মডেলগুলিকে বড় আকারের প্রতিক্রিয়াগুলির সাথে প্রতিক্রিয়া জানাতে সক্ষম করে এবং মডেলগুলির জন্য দ্রুত-সময়-থেকে-প্রথম-বাইট সক্ষম করে যেখানে প্রতিক্রিয়ার প্রথম এবং শেষ বাইটের জেনারেশনের মধ্যে উল্লেখযোগ্য পার্থক্য রয়েছে৷
প্রতিক্রিয়া বিষয়বস্তুর প্রকার দেখানো হয়েছে x-amzn-sagemaker-content-type
LMI ধারক জন্য হয় application/jsonline
s যেমন মডেল বৈশিষ্ট্য কনফিগারেশনে উল্লেখ করা হয়েছে। কারণ এটা অংশ সাধারণ তথ্য বিন্যাস অনুমানের জন্য সমর্থিত, আমরা দ্বারা প্রদত্ত ডিফল্ট deserializer ব্যবহার করতে পারেন সেজমেকার পাইথন এসডিকে JSON লাইন ডেটা ডিসিরিয়ালাইজ করতে। আমরা একজন সাহায্যকারী তৈরি করি LineIterator
অনুমান অনুরোধ থেকে প্রাপ্ত প্রতিক্রিয়া স্ট্রীম পার্স করার জন্য ক্লাস:
পূর্ববর্তী কোডের ক্লাসের সাথে, প্রতিবার একটি প্রতিক্রিয়া স্ট্রিম করা হলে, এটি একটি বাইনারি স্ট্রিং ফিরিয়ে দেবে (উদাহরণস্বরূপ, b'{"outputs": [" a"]}n'
) যা JSON প্যাকেজ ব্যবহার করে একটি পাইথন অভিধানে আবার ডিসিরিয়ালাইজ করা যেতে পারে। পাঠ্যের প্রতিটি স্ট্রিমড লাইনের মাধ্যমে পুনরাবৃত্তি করতে এবং পাঠ্য প্রতিক্রিয়া ফেরাতে আমরা নিম্নলিখিত কোডটি ব্যবহার করতে পারি:
নিম্নলিখিত স্ক্রিনশটটি দেখায় যে আপনি যদি LMI ধারক ব্যবহার করে SageMaker নোটবুকের মাধ্যমে মডেলটি ব্যবহার করেন তবে এটি কেমন হবে।
বিকল্প 2: একটি আলিঙ্গন মুখ TGI কন্টেইনার ব্যবহার করে একটি চ্যাটবট প্রয়োগ করুন৷
পূর্ববর্তী বিভাগে, আপনি দেখেছেন কিভাবে একটি LMI ধারক ব্যবহার করে Falcon-7B-ইন্সট্রাক্ট মডেল স্থাপন করতে হয়। এই বিভাগে, আমরা দেখাই কিভাবে a ব্যবহার করে একই কাজ করতে হয় আলিঙ্গন মুখ টেক্সট জেনারেশন ইনফারেন্স (TGI) আধার সেজমেকারে। TGI হল একটি ওপেন সোর্স, এলএলএম স্থাপনের জন্য উদ্দেশ্য-নির্মিত সমাধান। এটি দ্রুত মাল্টি-জিপিইউ অনুমানের জন্য টেনসর সমান্তরালতা, সামগ্রিক থ্রুপুট বাড়ানোর জন্য গতিশীল ব্যাচিং এবং BLOOM, T5, GPT-NeoX, StarCoder এবং LLaMa সহ জনপ্রিয় মডেল আর্কিটেকচারের জন্য ফ্ল্যাশ-মনোযোগ ব্যবহার করে অপ্টিমাইজ করা ট্রান্সফরমার কোড সহ অপ্টিমাইজেশানগুলিকে অন্তর্ভুক্ত করে৷
TGI গভীর শিক্ষার পাত্রে সমর্থন টোকেন স্ট্রিমিং ব্যবহার সার্ভার-প্রেরিত ইভেন্ট (SSE). টোকেন স্ট্রিমিংয়ের সাথে, সার্ভার প্রথমটির পরে উত্তর দেওয়া শুরু করতে পারে prefill
সমস্ত প্রজন্মের কাজ করার জন্য অপেক্ষা না করে সরাসরি পাস করুন। অত্যন্ত দীর্ঘ প্রশ্নগুলির জন্য, এর অর্থ হল ক্লায়েন্টরা কাজটি শেষ করার আগে পরিমানে কিছু ঘটতে দেখা শুরু করতে পারে। নিম্নলিখিত চিত্রটি TGI কন্টেইনার ব্যবহার করে SageMaker এন্ডপয়েন্টে LLM হোস্ট করার জন্য একটি উচ্চ-স্তরের এন্ড-টু-এন্ড অনুরোধ/প্রতিক্রিয়া কর্মপ্রবাহ দেখায়।
একটি সেজমেকার এন্ডপয়েন্টে ফ্যালকন-7বি-ইন্সট্রাক্ট মডেল স্থাপন করতে, আমরা ব্যবহার করি HuggingFaceModel
সেজমেকার পাইথন এসডিকে থেকে ক্লাস। আমরা নিম্নরূপ আমাদের পরামিতি সেট করে শুরু করি:
নিয়মিত আলিঙ্গন মুখ মডেল স্থাপনের তুলনায়, আমাদের প্রথমে কন্টেইনার URI পুনরুদ্ধার করতে হবে এবং এটি আমাদেরকে সরবরাহ করতে হবে HuggingFaceModel
সঙ্গে মডেল ক্লাস image_uri
ইমেজ নির্দেশ করে. সেজমেকারে নতুন হাগিং ফেস এলএলএম ডিএলসি পুনরুদ্ধার করতে, আমরা ব্যবহার করতে পারি get_huggingface_llm_image_uri
SageMaker SDK দ্বারা প্রদত্ত পদ্ধতি। এই পদ্ধতিটি আমাদের নির্দিষ্ট ব্যাকএন্ড, সেশন, অঞ্চল এবং সংস্করণের উপর ভিত্তি করে পছন্দসই আলিঙ্গন মুখ LLM DLC-এর জন্য URI পুনরুদ্ধার করতে দেয়। উপলব্ধ সংস্করণ সম্পর্কে আরো বিস্তারিত জানার জন্য, পড়ুন HuggingFace টেক্সট জেনারেশন ইনফারেন্স কন্টেইনার.
আমরা তারপর তৈরি HuggingFaceModel
এবং এটি ব্যবহার করে সেজমেকারে স্থাপন করুন deploy
পদ্ধতি:
LMI কন্টেইনারের তুলনায় প্রধান পার্থক্য হল যে আপনি সাপ্লাই দিয়ে এন্ডপয়েন্ট চালু করার সময় প্রতিক্রিয়া স্ট্রিমিং সক্ষম করেন stream=true
আমন্ত্রণ অনুরোধ পেলোড অংশ হিসাবে. নিম্নলিখিত কোডটি স্ট্রিমিং সহ TGI কন্টেইনারকে আহ্বান করতে ব্যবহৃত পেলোডের একটি উদাহরণ:
তারপরে আপনি শেষ পয়েন্টটি আহ্বান করতে পারেন এবং নিম্নলিখিত কমান্ডটি ব্যবহার করে একটি প্রবাহিত প্রতিক্রিয়া পেতে পারেন:
প্রতিক্রিয়া বিষয়বস্তুর প্রকার দেখানো হয়েছে x-amzn-sagemaker-content-type
TGI কন্টেইনার জন্য হয় text/event-stream
. আমরা স্ট্রিমডিসিরিয়ালাইজার ব্যবহার করে প্রতিক্রিয়া ডিসিরিয়ালাইজ করি ইভেন্টস্ট্রিম ক্লাস এবং একই ব্যবহার করে প্রতিক্রিয়া বডি পার্স করুন LineIterator
LMI কন্টেইনার বিভাগে ব্যবহৃত ক্লাস হিসাবে।
মনে রাখবেন যে TGI কন্টেইনারগুলি থেকে স্ট্রিম করা প্রতিক্রিয়া একটি বাইনারি স্ট্রিং ফিরিয়ে দেবে (উদাহরণস্বরূপ, b`data:{"token": {"text": " sometext"}}`)
, যা একটি JSON প্যাকেজ ব্যবহার করে আবার একটি পাইথন অভিধানে ডিসিরিয়ালাইজ করা যেতে পারে। আমরা পাঠ্যের প্রতিটি প্রবাহিত লাইনের মাধ্যমে পুনরাবৃত্তি করতে এবং একটি পাঠ্য প্রতিক্রিয়া ফেরত দিতে নিম্নলিখিত কোডটি ব্যবহার করতে পারি:
নিম্নলিখিত স্ক্রিনশটটি দেখায় যে আপনি যদি TGI কন্টেইনার ব্যবহার করে SageMaker নোটবুকের মাধ্যমে মডেলটি ব্যবহার করেন তবে এটি কেমন হবে।
সেজমেকার স্টুডিওতে চ্যাটবট অ্যাপটি চালান
এই ব্যবহারের ক্ষেত্রে, আমরা SageMaker স্টুডিও ব্যবহার করে একটি গতিশীল চ্যাটবট তৈরি করি স্ট্রিমলিট, যা স্ট্রিমিং প্রতিক্রিয়া প্রদানের জন্য একটি সেজমেকার রিয়েল-টাইম এন্ডপয়েন্টে হোস্ট করা Falcon-7B-ইন্সট্রাক্ট মডেলকে আহ্বান করে। প্রথমত, আপনি পরীক্ষা করতে পারেন যে স্ট্রিমিং প্রতিক্রিয়াগুলি আগের বিভাগে দেখানো হিসাবে নোটবুকে কাজ করে৷ তারপর, আপনি SageMaker Studio JupyterServer টার্মিনালে Streamlit অ্যাপ্লিকেশন সেট আপ করতে পারেন এবং নিম্নলিখিত পদক্ষেপগুলি সম্পূর্ণ করে আপনার ব্রাউজার থেকে চ্যাটবট UI অ্যাক্সেস করতে পারেন:
- সেজমেকার স্টুডিওতে একটি সিস্টেম টার্মিনাল খুলুন।
- সেজমেকার স্টুডিও কনসোলের শীর্ষ মেনুতে, নির্বাচন করুন ফাইল, তারপর নতুন, তারপর প্রান্তিক.
- প্রয়োজনীয় পাইথন প্যাকেজগুলি ইনস্টল করুন যা তে উল্লেখ করা আছে প্রয়োজনীয়গুলি.txt ফাইল:
- আপনার অ্যাকাউন্টে স্থাপন করা শেষ পয়েন্টের নামের সাথে পরিবেশ পরিবর্তনশীল সেট আপ করুন:
- থেকে Streamlit অ্যাপ চালু করুন
streamlit_chatbot_<LMI or TGI>.py
ফাইল, যা আগে সেট আপ করা এনভায়রনমেন্ট ভেরিয়েবলের উপর ভিত্তি করে স্ক্রিপ্টে শেষ পয়েন্টের নামগুলি স্বয়ংক্রিয়ভাবে আপডেট করবে: - Streamlit UI অ্যাক্সেস করতে, আপনার ব্রাউজারে অন্য ট্যাবে আপনার SageMaker Studio URL কপি করুন এবং প্রতিস্থাপন করুন
lab?
সঙ্গেproxy/[PORT NUMBER]/
. যেহেতু আমরা সার্ভার পোর্টটি 6006-এ নির্দিষ্ট করেছি, তাই URLটি নিম্নরূপ হওয়া উচিত:
চ্যাটবট UI অ্যাক্সেস করতে আপনার অ্যাকাউন্ট এবং অঞ্চলের সাথে পূর্ববর্তী URL-এ ডোমেন আইডি এবং অঞ্চল প্রতিস্থাপন করুন। আপনি শুরু করার জন্য বাম ফলকে কিছু প্রস্তাবিত প্রম্পট খুঁজে পেতে পারেন।
নিম্নলিখিত ডেমো দেখায় যে কীভাবে প্রতিক্রিয়া স্ট্রিমিং ব্যবহারকারীর অভিজ্ঞতাকে বিপ্লব করে। এটি মিথস্ক্রিয়াগুলিকে তরল এবং প্রতিক্রিয়াশীল মনে করতে পারে, শেষ পর্যন্ত ব্যবহারকারীর সন্তুষ্টি এবং ব্যস্ততা বাড়ায়। পড়ুন গিটহুব রেপো চ্যাটবট বাস্তবায়নের আরো বিস্তারিত জানার জন্য।
পরিষ্কার কর
যখন আপনি মডেলগুলি পরীক্ষা করা শেষ করেন, একটি সর্বোত্তম অনুশীলন হিসাবে, শেষবিন্দুটি আর প্রয়োজন না হলে খরচ বাঁচাতে শেষবিন্দুটি মুছুন:
উপসংহার
এই পোস্টে, আমরা জেনারেটিভ এআই, চ্যালেঞ্জগুলি এবং কীভাবে সেজমেকার রিয়েল-টাইম রেসপন্স স্ট্রিমিং আপনাকে এই চ্যালেঞ্জগুলি মোকাবেলা করতে সহায়তা করে তার সাথে অ্যাপ্লিকেশন তৈরির একটি ওভারভিউ প্রদান করেছি। SageMaker LMI এবং HuggingFace TGI উভয় কন্টেইনার ব্যবহার করে প্রতিক্রিয়া স্ট্রিমিং ব্যবহার করার জন্য Falcon-7B-ইন্সট্রাক্ট মডেল স্থাপন করার জন্য কীভাবে একটি চ্যাটবট অ্যাপ্লিকেশন তৈরি করা যায় তা আমরা দেখিয়েছি GitHub.
আজই এলএলএম এবং সেজমেকারের সাথে আপনার নিজস্ব অত্যাধুনিক স্ট্রিমিং অ্যাপ্লিকেশন তৈরি করা শুরু করুন! বিশেষজ্ঞ গাইডেন্সের জন্য আমাদের সাথে যোগাযোগ করুন এবং আপনার প্রকল্পের জন্য বড় মডেল স্ট্রিমিং এর সম্ভাবনা আনলক করুন।
লেখক সম্পর্কে
রঘু রমেশা অ্যামাজন সেজমেকার সার্ভিস টিমের সাথে একজন সিনিয়র এমএল সলিউশন আর্কিটেক্ট। তিনি গ্রাহকদের এমএল উৎপাদন কাজের লোডগুলিকে সেজমেকারে স্কেলে তৈরি, স্থাপন এবং স্থানান্তর করতে সহায়তা করার দিকে মনোনিবেশ করেন। তিনি মেশিন লার্নিং, এআই, এবং কম্পিউটার ভিশন ডোমেনে বিশেষজ্ঞ এবং UT ডালাস থেকে কম্পিউটার সায়েন্সে স্নাতকোত্তর ডিগ্রি অর্জন করেছেন। তার অবসর সময়ে, তিনি ভ্রমণ এবং ফটোগ্রাফি উপভোগ করেন।
অভি শিবাদিত্য তিনি AWS-এর একজন সিনিয়র সলিউশন আর্কিটেক্ট, কৃত্রিম বুদ্ধিমত্তা, ডিস্ট্রিবিউটেড কম্পিউটিং, নেটওয়ার্কিং এবং স্টোরেজের মতো ক্ষেত্রগুলিতে AWS পরিষেবাগুলি গ্রহণের সুবিধার্থে কৌশলগত বৈশ্বিক এন্টারপ্রাইজ সংস্থাগুলির সাথে কাজ করছেন৷ ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং (NLP) এবং কম্পিউটার ভিশনের ডোমেনে গভীর শিক্ষার মধ্যে তার দক্ষতা নিহিত। অভি AWS ইকোসিস্টেমের মধ্যে দক্ষতার সাথে উচ্চ-পারফরম্যান্স মেশিন লার্নিং মডেল স্থাপনে গ্রাহকদের সহায়তা করে।
অ্যালান ট্যান সেজমেকারের একজন সিনিয়র প্রোডাক্ট ম্যানেজার, বৃহৎ মডেল অনুমানে অগ্রণী প্রচেষ্টা। তিনি বিশ্লেষণের ক্ষেত্রে মেশিন লার্নিং প্রয়োগ করার বিষয়ে উত্সাহী। কাজের বাইরে, তিনি বাইরে উপভোগ করেন।
মেলানি এলi, পিএইচডি, অস্ট্রেলিয়ার সিডনিতে অবস্থিত AWS-এর একজন সিনিয়র AI/ML বিশেষজ্ঞ TAM। তিনি এন্টারপ্রাইজ গ্রাহকদের AWS-এ অত্যাধুনিক AI/ML টুল ব্যবহার করে সমাধান তৈরি করতে সাহায্য করেন এবং সর্বোত্তম অনুশীলনের সাথে ML সলিউশনের স্থাপত্য ও বাস্তবায়নের নির্দেশনা প্রদান করেন। তার অবসর সময়ে, তিনি প্রকৃতি অন্বেষণ করতে এবং পরিবার এবং বন্ধুদের সাথে সময় কাটাতে পছন্দ করেন।
স্যাম এডওয়ার্ডস, AWS সিডনির একজন ক্লাউড ইঞ্জিনিয়ার (AI/ML) মেশিন লার্নিং এবং Amazon SageMaker-এ বিশেষজ্ঞ৷ তিনি গ্রাহকদের মেশিন লার্নিং ওয়ার্কফ্লো সম্পর্কিত সমস্যাগুলি সমাধান করতে এবং তাদের জন্য নতুন সমাধান তৈরি করতে সহায়তা করার বিষয়ে উত্সাহী৷ কাজের বাইরে, তিনি র্যাকেট খেলা এবং ভ্রমণ উপভোগ করেন।
জেমস স্যান্ডার্স অ্যামাজন ওয়েব সার্ভিসেসের একজন সিনিয়র সফটওয়্যার ইঞ্জিনিয়ার। তিনি অ্যামাজন সেজমেকারের জন্য রিয়েল-টাইম ইনফারেন্স প্ল্যাটফর্মে কাজ করেন।
- এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
- PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
- প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
- প্লেটোইএসজি। মোটরগাড়ি / ইভি, কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
- প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
- চার্টপ্রাইম। ChartPrime এর সাথে আপনার ট্রেডিং গেমটি উন্নত করুন। এখানে প্রবেশ করুন.
- ব্লকঅফসেট। পরিবেশগত অফসেট মালিকানার আধুনিকীকরণ। এখানে প্রবেশ করুন.
- উত্স: https://aws.amazon.com/blogs/machine-learning/elevating-the-generative-ai-experience-introducing-streaming-support-in-amazon-sagemaker-hosting/
- : হয়
- :না
- :কোথায়
- $ ইউপি
- 1
- 10
- 100
- 11
- 13
- 14
- 16
- 1900
- 23
- 300
- 7
- 8
- 9
- a
- সম্পর্কে
- ত্বক
- প্রবেশ
- হিসাব
- অ্যাকাউন্টস
- অর্জন
- দিয়ে
- অতিরিক্ত
- উপরন্তু
- ঠিকানা
- গ্রহণ
- সুবিধা
- পর
- আবার
- AI
- এআই মডেল
- এআই / এমএল
- সব
- অনুমতি
- প্রায়
- এছাড়াও
- মর্দানী স্ত্রীলোক
- আমাজন সেজমেকার
- অ্যামাজন ওয়েব সার্ভিসেস
- an
- বৈশ্লেষিক ন্যায়
- এবং
- ঘোষণা করা
- অন্য
- উত্তর
- কোন
- API
- অ্যাপ্লিকেশন
- আবেদন
- অ্যাপ্লিকেশন
- প্রয়োগ করা হচ্ছে
- স্থাপত্য
- রয়েছি
- এলাকায়
- এলাকার
- বিন্যাস
- কৃত্রিম
- কৃত্রিম বুদ্ধিমত্তা
- AS
- সহায়ক
- সহায়তা
- At
- অস্ট্রেলিয়া
- স্বয়ংক্রিয়ভাবে
- উপস্থিতি
- সহজলভ্য
- ডেস্কটপ AWS
- b
- পিছনে
- ব্যাক-এন্ড
- পটভূমি
- ভিত্তি
- BE
- কারণ
- আগে
- শুরু করা
- সুবিধা
- উপকারী
- সুবিধা
- সর্বোত্তম
- সেরা অভ্যাস
- মধ্যে
- পুষ্প
- শরীর
- সাহায্য
- উভয়
- ব্রাউজার
- বাফার
- নির্মাণ করা
- একটি চ্যাটবট তৈরি করুন
- ভবন
- নির্মিত
- কিন্তু
- by
- কল
- CAN
- যত্ন
- কেস
- মামলা
- চ্যালেঞ্জ
- চ্যালেঞ্জিং
- চরিত্র
- chatbot
- chatbots
- চ্যাটিং
- চেক
- বেছে নিন
- বেছে
- শ্রেণী
- মক্কেল
- ক্লায়েন্ট
- মেঘ
- কোড
- মন্তব্য
- তুলনা
- পরিপূরক
- কম্পিউটার
- কম্পিউটার বিজ্ঞান
- কম্পিউটার ভিশন
- কম্পিউটিং
- কনফিগারেশন
- কনসোল
- ধারণ করা
- আধার
- কন্টেনারগুলি
- বিষয়বস্তু
- অবিরত
- চলতে
- ধারাবাহিকতা
- একটানা
- নিয়ন্ত্রণ
- কথোপকথন
- মূল
- অনুরূপ
- খরচ
- পারা
- সৃষ্টি
- নির্মিত
- সৃষ্টি
- তৈরি করা হচ্ছে
- কঠোর
- প্রথা
- ক্রেতা
- গ্রাহক সন্তুষ্টি
- গ্রাহকদের
- কাস্টমাইজ
- কাটিং-এজ
- ডালাস
- উপাত্ত
- গভীর
- গভীর জ্ঞানার্জন
- ডিফল্ট
- নির্ধারণ করা
- সংজ্ঞায়িত
- ডিগ্রী
- প্রদান
- ডেমো
- স্থাপন
- মোতায়েন
- মোতায়েন
- আকাঙ্ক্ষিত
- বিশদ
- বিস্তারিত
- পার্থক্য
- বিভিন্ন
- সরাসরি
- বণ্টিত
- ডিস্ট্রিবিউটেড কম্পিউটিং
- do
- ডোমেইন
- ডোমেইনের
- সম্পন্ন
- প্রগতিশীল
- প্রতি
- পূর্বে
- বাস্তু
- দক্ষ
- দক্ষতার
- প্রচেষ্টা
- elevating
- সক্ষম করা
- সক্ষম করা
- সম্ভব
- শেষ
- সর্বশেষ সীমা
- শেষ
- শেষপ্রান্ত
- এন্ড পয়েন্ট
- প্রবৃত্তি
- আকর্ষক
- প্রকৌশলী
- উন্নত করা
- বর্ধনশীল
- নিশ্চিত করা
- উদ্যোগ
- এন্টারপ্রাইজ গ্রাহকরা
- সমগ্র
- পরিবেশ
- থার (eth)
- এমন কি
- ঘটনা
- ঘটনাবলী
- উদাহরণ
- উদাহরণ
- ছাড়া
- উত্তেজিত
- আশা করা
- অভিজ্ঞতা
- অভিজ্ঞতা
- ক্যান্সার
- ল্যাপারোস্কোপিক পদ্ধতি
- অন্বেষণ করুণ
- রপ্তানি
- উদ্ভাসিত
- অত্যন্ত
- মুখ
- সহজতর করা
- বাজপাখি
- মিথ্যা
- পরিবার
- দ্রুত
- বৈশিষ্ট্য
- মনে
- ফাইল
- আবিষ্কার
- প্রথম
- প্রথমবার
- প্রবাহ
- তরল
- গুরুত্ত্ব
- অনুসরণ
- অনুসরণ
- জন্য
- বিন্যাস
- ফ্রেমওয়ার্ক
- অবকাঠামো
- বিনামূল্যে
- বন্ধুদের
- থেকে
- সম্পূর্ণ
- ক্রিয়া
- উত্পন্ন
- প্রজন্ম
- সৃজক
- জেনারেটিভ এআই
- জেনারেটর
- পাওয়া
- GIF
- বিশ্বব্যাপী
- জিপিইউ
- জিপিইউ
- নিশ্চিত
- পথপ্রদর্শন
- ঘটনা
- he
- স্বাস্থ্য
- সাহায্য
- সাহায্য
- সাহায্য
- তার
- উচ্চ
- উচ্চস্তর
- উচ্চ পারদর্শিতা
- তার
- ঝুলিতে
- নিমন্ত্রণকর্তা
- হোস্ট
- হোস্টিং
- কিভাবে
- কিভাবে
- এইচটিএমএল
- HTTP
- HTTPS দ্বারা
- জড়িয়ে আছে
- আমি
- ID
- পরিচয়
- if
- প্রকাশ
- ভাবমূর্তি
- আশু
- অবিলম্বে
- বাস্তবায়ন
- বাস্তবায়ন
- বাস্তবায়িত
- বাস্তবায়ন
- আমদানি
- in
- সুদ্ধ
- অন্তর্ভুক্ত
- বৃদ্ধি
- তথ্য
- পরিকাঠামো
- প্রারম্ভিক
- ইনপুট
- ইনপুট
- ইনস্টল
- উদাহরণ
- তাত্ক্ষণিকভাবে
- পরিবর্তে
- বুদ্ধিমত্তা
- পারস্পরিক ক্রিয়ার
- ইন্টারেক্টিভ
- মধ্যে
- পরিচয় করিয়ে দেয়
- উপস্থাপক
- প্রার্থনা
- পূজা
- সমস্যা
- IT
- এর
- জাভা
- JPG
- JSON
- ভাষা
- বড়
- বৃহত্তর
- গত
- অদৃশ্যতা
- নেতৃত্ব
- শিক্ষা
- বাম
- লম্বা
- লাইব্রেরি
- লাইব্রেরি
- মিথ্যা
- জীবন
- মত
- লাইন
- লাইন
- শিখা
- দীর্ঘ
- আর
- দেখুন
- মত চেহারা
- ভালবাসে
- মেশিন
- মেশিন লার্নিং
- প্রধান
- রক্ষণাবেক্ষণ
- করা
- পরিচালনা করা
- পরিচালক
- মাস্টার্স
- সর্বোচ্চ
- মে..
- me
- মানে
- পদ্ধতি
- স্মৃতি
- মেনু
- পদ্ধতি
- মাইগ্রেট
- মিনিট
- ML
- মডেল
- মডেল
- অধিক
- পরন্তু
- সেতু
- বহু
- সঙ্গীত
- নাম
- নাম
- প্রাকৃতিক
- স্বভাবিক ভাষা
- স্বাভাবিক ভাষা প্রক্রিয়াকরণ
- প্রকৃতি
- প্রয়োজন
- নেটওয়ার্কিং
- নতুন
- নতুন বৈশিষ্ট্য
- নতুন সমাধান
- NLP
- না।
- নোটবই
- এখন
- সংখ্যা
- বস্তু
- of
- on
- ONE
- কেবল
- খোলা
- ওপেন সোর্স
- অপ্টিমাইজ
- পছন্দ
- অপশন সমূহ
- or
- আদেশ
- সংগঠন
- অন্যান্য
- আমাদের
- বাইরে
- বিদেশে
- আউটপুট
- বাহিরে
- শেষ
- সামগ্রিক
- ওভারভিউ
- নিজের
- প্যাকেজ
- প্যাকেজ
- শার্সি
- সমান্তরাল
- পরামিতি
- অংশ
- বিশেষত
- যন্ত্রাংশ
- পাস
- কামুক
- প্রতি
- কর্মক্ষমতা
- অনুমতি
- পিএইচডি
- ফটোগ্রাফি
- পরিকল্পনা
- মাচা
- Plato
- প্লেটো ডেটা ইন্টেলিজেন্স
- প্লেটোডাটা
- কেলি
- বিন্দু
- জনপ্রিয়
- অবস্থান
- পোস্ট
- সম্ভাব্য
- সম্ভাব্য
- অনুশীলন
- চর্চা
- বহুমূল্য
- ভবিষ্যতবাণী
- আগে
- সমস্যা
- প্রক্রিয়াজাতকরণ
- পণ্য
- পণ্য ব্যবস্থাপক
- উত্পাদনের
- প্রকল্প
- বৈশিষ্ট্য
- প্রদান
- প্রদত্ত
- উপলব্ধ
- প্রদানের
- পাইথন
- প্রশ্নের
- বৃদ্ধি
- নাগাল
- পড়া
- বাস্তব
- প্রকৃত সময়
- গ্রহণ করা
- গৃহীত
- গ্রহণ
- হ্রাস
- বিশোধক
- এলাকা
- নিয়মিত
- সংশ্লিষ্ট
- প্রতিস্থাপন করা
- অনুরোধ
- অনুরোধ
- প্রয়োজনীয়
- আবশ্যকতা
- প্রয়োজন
- Resources
- প্রতিক্রিয়া
- প্রতিক্রিয়া
- প্রতিক্রিয়া
- প্রতিক্রিয়াশীল
- ফলাফল
- প্রত্যাবর্তন
- আয়
- বিপ্লব করে
- ভূমিকা
- চালান
- ঋষি নির্মাতা
- সেজমেকার ইনফারেন্স
- একই
- সন্তোষ
- সংরক্ষণ করুন
- করাত
- স্কেল
- বিজ্ঞান
- SDK
- নির্বিঘ্ন
- সেকেন্ড
- অধ্যায়
- বিভাগে
- সুরক্ষিত
- নিরাপত্তা
- দেখ
- আত্ম
- পাঠান
- পাঠানোর
- জ্যেষ্ঠ
- বাক্য
- সেবা
- সেবা
- ভজনা
- সেশন
- সেট
- বিন্যাস
- সে
- উচিত
- প্রদর্শনী
- গ্লাসকেস
- শোকেস
- প্রদর্শিত
- শো
- গুরুত্বপূর্ণ
- একক
- আয়তন
- So
- সফটওয়্যার
- সফটওয়্যার ইঞ্জিনিয়ার
- সমাধান
- সলিউশন
- সমাধান
- কিছু
- কিছু
- উৎস
- বিশেষজ্ঞ
- বিশেষজ্ঞ
- বিশেষ
- নিদিষ্ট
- ব্যয় করা
- বিভক্ত করা
- বিজ্ঞাপন
- মান
- শুরু
- শুরু
- রাষ্ট্র-এর-শিল্প
- প্রারম্ভিক ব্যবহারের নির্দেশাবলী
- আঠাল
- স্টোরেজ
- কৌশলগত
- প্রবাহ
- স্ট্রীম
- স্ট্রিমিং
- স্ট্রিং
- চিত্রশালা
- এমন
- সরবরাহ
- সমর্থন
- সমর্থিত
- সমর্থন
- নিশ্চিত
- সিডনি
- পদ্ধতি
- গ্রহণ করা
- TAM
- টীম
- প্রযুক্তি
- বলা
- প্রান্তিক
- শর্তাবলী
- নিরাপত্তা শর্তাবলী
- পরীক্ষা
- পরীক্ষামূলক
- পাঠ্য প্রজন্ম
- যে
- সার্জারির
- ক্ষেত্র
- তাহাদিগকে
- তারপর
- সেখানে।
- এইগুলো
- তারা
- এই
- দ্বারা
- থ্রুপুট
- সময়
- TLS এর
- থেকে
- টোকেন
- সরঞ্জাম
- শীর্ষ
- ঐতিহ্যগতভাবে
- ট্রান্সফরমার
- ভ্রমণ
- সত্য
- চেষ্টা
- দুই
- আদর্শ
- ui
- পরিণামে
- বুঝতে পারে
- অজানা
- আনলক
- আপডেট
- কোনো URI
- URL টি
- us
- ব্যবহার
- ব্যবহার ক্ষেত্রে
- ব্যবহৃত
- ব্যবহারকারী
- ব্যবহারকারীর অভিজ্ঞতা
- ব্যবহারকারী
- ব্যবহারসমূহ
- ব্যবহার
- সাধারণত
- মূল্য
- দামী
- পরিবর্তনশীল
- সংস্করণ
- সংস্করণ
- মাধ্যমে
- ভার্চুয়াল
- দৃষ্টি
- অপেক্ষা করুন
- প্রতীক্ষা
- ছিল
- we
- ওয়েব
- ওয়েব অ্যাপ্লিকেশন
- ওয়েব সার্ভিস
- কি
- চাকা
- কখন
- যে
- যখন
- উইকিপিডিয়া
- ইচ্ছা
- সঙ্গে
- মধ্যে
- ছাড়া
- হয়া যাই ?
- কর্মপ্রবাহ
- কর্মপ্রবাহ
- কাজ
- কাজ
- would
- লেখা
- লিখিত
- আপনি
- আপনার
- zephyrnet