NLP

پردازش زبان طبیعی یا  natural language processing یکی از زیرشاخه‌های آموزش هوش مصنوعی (AI) است. این فناوری پرکاربرد برای اهداف زیادی در پروژه‌های مختلف تجاری استفاده می‌شود. فناوری نام برده بر روی گفتار ارائه‌شده توسط کاربر کار می‌کند و آن را برای درک صحیح، تجزیه و پردازش می‌کند. هدف از دوره آموزش پردازش زبان طبیعی NLP آشنایی و تسلط دانشجو بر جنبه‌های مختلف NLP است. قبل از اینکه به معرفی دوره NLP بپردازیم ابتدا می‌خواهیم کمی در رابطه با NLP و جنبه‌های مختلف آن باهم به گفتگو بپردازیم. NLP چیست؟ NLP درواقع یک رویکرد بسیار جدید و مؤثر است که تقاضای بسیار بالایی در بازار امروز دارد. بازنمایی دانش و استدلال منطقی، تأکید برنامه‌های هوش مصنوعی در NLP است. در دهه گذشته، تغییر قابل‌توجهی در تحقیقات NLP منجر به استفاده گسترده از رویکردهای آماری مانند آموزش یادگیری ماشین و داده‌کاوی در مقیاس گسترده شده است. نیاز به اتوماسیون به دلیل حجم کاری که این روزها باید انجام شود هرگز پایان نمی‌یابد. NLP یک جنبه بسیار مطلوب در صحبت از برنامه‌های خودکار است. همچنین کاربردهای NLP باعث شده است تا یکی از پرطرفدارترین روش‌های پیاده‌سازی یادگیری ماشین باشد. پردازش زبان طبیعی (NLP) رشته‌ای است که علوم کامپیوتر، زبان‌شناسی و یادگیری ماشین را برای مطالعه نحوه ارتباط کامپیوترها و انسان‌ها به زبان طبیعی ترکیب می‌کند. هدف NLP این است که کامپیوترها بتوانند زبان انسانی را تفسیر و تولید کنند. این ویژگی نه‌تنها کارایی کار انجام‌شده توسط انسان را بهبود می‌بخشد، بلکه به تعامل انسان با دستگاه نیز کمک می‌کند. در واقع NLP شکاف تعامل بین انسان و دستگاه‌های الکترونیکی را پر می‌کند. در دوره آموزش پردازش زبان طبیعی ما قرار است که با تکنیک‌ها و متدهای مهم در آن آشنا شویم و بتوانیم پس از پایان دوره به‌خوبی و به‌صورت عملی تا حدود زیادی NLP را درک کنیم. اجزای مختلف پردازش زبان طبیعی یا NLP زبان طبیعی  nlp به سه بخش مختلف تقسیم می‌شود: تشخیص گفتار — ترجمه زبان گفتاری به متن. درک زبان طبیعی (NLU)  — توانایی کامپیوتر برای درک آنچه می‌گوییم. تولید زبان طبیعی  (NLG) — تولید زبان طبیعی توسط کامپیوتر. NLU و NLG جنبه‌های کلیدی هستند که عملکرد دستگاه‌های NLP را نشان می‌دهند. این 2 جنبه بسیار متفاوت از یکدیگر هستند و با استفاده از روش‌های مختلف به دست می‌آیند که در دوره آموزش پردازش زبان طبیعی نیز به آن‌ها اشاره‌شده است. تشخیص گفتار در NLP ابتدا کامپیوتر باید زبان طبیعی را بگیرد و آن را به زبان مصنوعی تبدیل کند. این همان کاری است که تشخیص گفتار یا گفتار به متن انجام می‌دهد و اولین مرحله NLU به‌حساب می‌آید. مدل‌های پنهان مارکوف (HMM) امروزه در اکثر سیستم‌های تشخیص صدا استفاده می‌شوند. این‌ها مدل‌های آماری هستند که از محاسبات ریاضی برای تعیین آنچه گفته‌اید استفاده می‌کنند تا گفتار شمارا به متن تبدیل کنند. HMM- ها این کار را با گوش دادن به صحبت شما انجام می‌دهند، آن را به واحدهای کوچک تقسیم می‌کنند (معمولاً 10 تا 20 میلی‌ثانیه) و آن را با گفتار از پیش ضبط‌شده مقایسه می‌کنند تا بفهمند کدام واج را در هر واحد بیان کرده‌اید. واج کوچک‌ترین واحد گفتار است. سپس برنامه توالی واج‌ها را بررسی می‌کند و از تجزیه‌وتحلیل آماری برای تعیین محتمل‌ترین کلمات و جملاتی که شما صحبت می‌کردید استفاده می‌کند. درک زبان طبیعی (NLU) مرحله بعدی و سخت‌ترین مرحله NLP، قسمت درک آن است که درک زبان طبیعی (NLU) نام دارد و اساس و روش آن در دوره آموزش پردازش زبان طبیعی به‌خوبی بیان‌شده است. ابتدا کامپیوتر باید معنای هر کلمه را درک کند. کامپیوتر سعی می‌کند بفهمد که این کلمه اسم است یا فعل. به این تگ بخشی از گفتار (POS) می‌گویند. همچنین واژگان و مجموعه‌ای از قوانین گرامری نیز در سیستم‌های NLP تعبیه‌شده است. سخت‌ترین بخش NLP، درک آن است. ماشین باید بتواند آنچه را که شما گفتید در پایان فرآیند درک کند. هنگام در نظر گرفتن مشکلاتی مانند کلماتی که چندین معانی دارند (چندمعنایی) یا کلمات مختلف دارای معانی مشابه (مترادف) چالش‌های متعددی برای انجام این کار وجود دارد، اما توسعه‌دهندگان قوانین را در سیستم‌های NLU خود کدگذاری می‌کنند و آن‌ها را آموزش می‌دهند تا یاد بگیرند که قوانین را به‌درستی اعمال کنند. تولید زبان طبیعی (NLG) انجام NLG بسیار ساده‌تر از دو روش قبل است. NLG زبان مصنوعی کامپیوتر را به متن تبدیل می‌کند و همچنین می‌تواند آن متن را با استفاده از فناوری تبدیل متن به گفتار به گفتار شنیدنی تبدیل کند. ابتدا سیستم NLP مشخص می‌کند که چه داده‌هایی باید به متن تبدیل شوند. اگر از کامپیوتر سؤالی در مورد آب‌وهوا پرسیده باشید، به‌احتمال‌زیاد کامپیوتر برای یافتن پاسخ شما یک جستجوی آنلاین انجام داده است و آن را به صورت گفتار برای شما بازگو میکند. سپس، ساختار نحوه بیان آن را سازمان‌دهی می‌کند. این شبیه به NLU است. سیستم NLG می‌تواند جملات کامل را با استفاده از یک فرهنگ لغت و مجموعه‌ای از قوانین دستور زبان بسازد. درنهایت، تبدیل متن به گفتار کار را به دست می‌گیرد. موتور تبدیل متن به گفتار از یک مدل عروضی برای ارزیابی متن و شناسایی کلمات توقف و عوامل دیگر استفاده می‌کند. سپس موتور تمام واج‌های ضبط‌شده را با استفاده از پایگاه داده گفتار در یک‌رشته منسجم گفتار ترکیب می‌کند. در دوره آموزش پردازش زبان طبیعی موارد گفته‌شده به‌خوبی و به‌صورت کاربردی توضیح داده‌شده است. فن‌آوری‌های مرتبط با پردازش زبان طبیعی فن‌آوری‌های زیادی با NLP هم‌اکنون سروکار دارند که از مهم‌ترین آن‌ها می‌توان به موارد زیر اشاره کرد: ترجمه ماشینی: NLP برای ترجمه زبان از یک‌زبان به زبان دیگر از طریق کامپیوتر استفاده می‌شود. Chatterbots NLP: ان ال پی برای ربات‌های چت که با ربات‌های چت دیگر ارتباط برقرار می‌کنند استفاده می‌شود یا برای ارتباط انسان‌ها با ربات‌ها از طریق روش‌های شنیداری یا متنی از آن استفاده خواهد شد. نرم‌افزار هوش مصنوعی: NLP در نرم‌افزار پاسخ‌گویی به سؤال برای بازنمایی دانش، استدلال تحلیلی و همچنین بازیابی اطلاعات استفاده می‌شود. کاربردهای پردازش زبان طبیعی (NLP): NLP در حوزه پردازش زبان کاربرهای بسیار فراوانی دارد که از مهم‌ترین آن‌ها می‌توان به موارد زیر اشاره کرد: فیلترهای هرزنامه یکی از بدترین تجربه‌ها در مورد ایمیل، ایمیل‌های هرزنامه است. Gmail از پردازش زبان طبیعی (NLP) برای تشخیص اینکه کدام ایمیل‌ها معتبر و کدام هرزنامه هستند، استفاده می‌کند. این فیلترهای هرزنامه به متن تمام ایمیل‌هایی که دریافت می‌کنید نگاه می‌کنند و سعی می‌کنند معنی آن را بفهمند که آیا هرزنامه است یا نه. معاملات الگوریتمی معاملات الگوریتمی برای پیش‌بینی شرایط بازار سهام استفاده می‌شود. با استفاده از NLP، این فناوری عناوین اخبار مربوط به شرکت‌ها و سهام را بررسی می‌کند و تلاش می‌کند تا معنای آن‌ها را درک کند تا مشخص کند آیا باید سهام خاصی را بخرید، بفروشید یا نگهداری کنید. پاسخ به سؤالات NLP را می‌توان با استفاده از جستجوی گوگل در عمل مشاهده کرد. یکی از کاربردهای اصلی NLP این است که موتورهای جستجو معنای آنچه را که می‌پرسیم بفهمند و درازای پاسخ به ما، زبان طبیعی تولید کنند. خلاصه سازی متون و اطلاعات یکی از بهترین کاربردهای ان ال پی خلاصه‌سازی متون است. در اینترنت، اطلاعات زیادی وجود دارد و بسیاری از آن‌ها به‌صورت داده های متنی و مقالات طولانی هستند. NLP برای رمزگشایی معنای داده‌ها استفاده می‌شود و سپس خلاصه‌های کوتاه‌تری از داده‌ها ارائه می‌دهد تا انسان بتواند آن را سریع‌تر درک کند. در این رابطه سعی می‌شود که با حذف کلمات توقف و دیگر تکنیک‌ها به خلاصه‌سازی متن پرداخته شود. تحلیل احساسات بازخورد یکی از عوامل اساسی ارتباط واقعی است. محصول شما چه یک فیلم کاملاً جدید باشد یا یک ابزار یا هر چیز دیگری، نظرات مخاطبان در مورد آن‌ها بسیار مهم خواهد بود، از این‌ رو، بررسی احساسات مردم در رابطه با یک محصول، اکنون بیش از هر زمان دیگری ضروری است. استراتژی ان ال پی با تکنولوژی BOW روی این مسئله متمرکزشده و در کشف احساسات نقش اساسی ایفا می‌کند. این رویکرد از تکنیک‌های آماری برای گروه‌بندی کلمات استفاده می‌کند و و پردازش زبان طبیعی در بک‌اند این مسئله قرار می‌گیرد. BOW را می‌توان به‌عنوان یک فرهنگ لغت بزرگ در نظر گرفت که در آن هر کلمه وزن منحصربه‌فرد خود را دارد که به نتیجه‌گیری احساسات کمک می‌کند. در دوره آموزش پردازش زبان طبیعی به کاربرد تحلیل احساسات با ان ال پی به صورت تخصصی پرداخته شده است. ترجمه ماشینی دستیابی به چندزبانگی در یک پلتفرم اغلب می‌تواند یک مأموریت چالش‌برانگیز برای انجام آن باشد، بنابراین برای ساده‌تر کردن سبک زندگی‌مان حداقل درزمینهٔ ارتباط، ترجمه ماشینی به کمک ما می‌آید و می‌تواند مفید واقع شود. در اوایل دهه 50، IBM یک سیستم ترجمه ماشینی را معرفی کرد که فقط 250 کلمه داشت و چهل و نه جمله روسی را بااحتیاط انتخاب‌شده در حوزه شیمی به انگلیسی ترجمه کرد. در طول سال‌های اخیر با استفاده از منابعی که شبکه‌های عصبی را به کار می‌گیرند، ترجمه ماشینی به‌شدت کیفیت بالایی داشته، به‌طوری‌که ترجمه بین زبان‌ها به‌آسانی زدن یک دکمه شده است. نمونه بارز آن Google Translate بوده که به بیش از ترجمه آنی صد زبان کمک می‌کند و از فن آوری ان ال پی بهره می‌برد. طبقه‌بندی متن متون شکلی از اطلاعات بدون ساختار هستند. طبقه‌بندی متن با NLP، مقدار زیادی از محتوای متنی را که در حال حاضر استفاده می‌کنیم، دسته‌بندی و مرتب می‌کنند. ازآنجایی که متون ساختاری ندارند، تجزیه‌وتحلیل، مرتب‌سازی و طبقه‌بندی آن‌ها می‌تواند برای انسان بسیار چالش‌برانگیز و زمان‌بر و گاهی اوقات حتی خسته‌کننده باشد. اینجاست که طبقه‌بندی متن با NLP به میدان می‌آید تا انگیزه خود را برای انجام وظایف ذکر شده با مقیاس‌پذیری و دقت بیشتر ارائه دهد. در دوره آموزش پردازش زبان طبیعی این کاربرد مورد بررسی و تحلیل کاربردی واقع شده است. در دوره آموزش NLP با کاربردهای دیگر و بیشتری از NLP آشنا خواهیم شد و آن را به‌صورت عملی یاد خواهیم گرفت.

مدل‌های توالی در کاربردهایی که به تجزیه‌وتحلیل داده‌های ورودی به‌عنوان یک جریان هم‌بسته مداوم احتیاج دارد، نقشی اساسی ایفا می‌کند. این مقادیر می‌توانند داده‌های سری زمانی باشند که تقاضای یک محصول را در یک بازه زمانی خاص پیش‌بینی می‌کنند. کاربرد دیگر مدل‌های توالی می‌تواند در پیش‌بینی متن باشد. سیستم بر اساس توالی آخرین عبارت و مجموعه‌ای از شرایط و قوانین از قبل بارگذاری شده، قادر است کلمه بعدی را پیش‌بینی کند. یکی از انواع شبکه‌ها که در تشخیص گفتار، پردازش زبان طبیعی (NLP) و پردازش داده‌های متوالی استفاده می‌شود، شبکه عصبی بازگشتی یا RNN نام دارد. با فراگیری آموزش مدل‌های توالی به‌عنوان بخشی از RNN کسب‌وکارها می‌توانند عملیات خود را تقویت کنند و تصمیم‌گیری‌هایشان را بهبود بخشند. در این دوره از آموزش مدل‌های توالی و آموزش پردازش زبان شما با مدل‌های NLP و اپلیکیشن‌های جذابشان مانند تشخیص گفتار، ترکیب موسیقی، چت‌بات‌ها، ترجمه ماشینی، درک زبان طبیعی و تکامل الگوریتم‌های توالی آشنا خواهید شد.   هدف از یادگیری دوره آموزش مدل‌ های توالی و پردازش زبان طبیعی چیست؟ آموزش sequence model، دومین دوره از مجموعه تخصص یادگیری عمیق اندرو می‌باشد. هدف از این دوره، این است که شما بتوانید با شبکه‌های عصبی بازگشتی (RNN) و انواع رایج‌تر آن مانند GRU و LSTM کار کنید. با استفاده از این مدل‌ها می‌توانید پردازش زبان طبیعی و Word Embedding را یاد بگیرید.    دوره آموزش مدل‌‌های توالی و پردازش زبان طبیعی مناسب چه کسانی است؟ دانشجویان و فارغ‌التحصیلان مهندسی کامپیوتر و هوش مصنوعی کسانی که به ساخت اپلیکیشن‌های کاربردی با استفاده از یادگیری عمیق علاقه‌مندند. مهندسانی که نمی‌خواهند از دنیای تکنولوژی عقب بمانند.   بعد از فراگیری دوره آموزش مدل‌‌های تربیتی (sequence model) و پردازش زبان طبیعی چه مهارت‌هایی کسب خواهید کرد؟ پس از فراگیری آموزش مدل‌های ترتیبی شاهد ارتقاء مهارت‌های زیر در خود خواهید بود: پردازش زبان طبیعی (NLP) حافظه طولانی کوتاه‌مدت (LSTM) واحد بازگشتی گیتی (GRU) شبکه عصبی بازگشتی (RNN) مدل‌های توجه   

متن‌کاوی یا تحلیل متن به ما فرایند استخراج اطلاعات باکیفیت از یک متن را آموزش می‌دهد. متن‌کاوی می‌تواند برروی وبسایت‌ها، کتاب‌ها، ایمیل‌ها، بازخوردهای کاربران و یا مقالات اعمال شود. متن‌کاوی معمولا شامل ساختاربندی متن ورودی و کشف الگوهایی در داده ساختاریافته است. جستجو در متن یکی از کارهایی است که به‌ویژه در متن‌های بلند نیازمند روشهای کاراتر است. در این سلسله ویدئوها به فراخور نوع متن مورد استفاده روش‌های متفاوتی معرفی خواهند شد.، در ابتدا از ابزارهای موجود در سیستم عامل (لینوکس)‌ بهره خواهیم برد، سپس کار با نرم افزار نت‌پد پلاس را یاد خواهیم گرفت، در پایان به معرفی زبان برنامه‌نویسی پرل خواهیم پرداخت. این زبان به طور اختصاصی برای متن کاوی ساخته شده و در این کار نسبت به سایر زبان‌ها از سرعت بیشتری برخوردار است. در خلال این درس با عبارت‌های قاعده‌مند آشنا خواهیم شد، عبارت‌های قاعده‌مند به‎‌نوعی شاه‌کلید کار در متن‌کاوی محسوب می‌شوند. عبارات قاعده‌مند در اکثر زبان‌های برنامه‌نویسی با تغییرات اندکی قابل استفاده هستند و نوع عبارات مورد استفاده در این درس راه را برای استفاده آن در دیگر زبان‌هایی که کاربر در آینده با آن برخورد خواهد داشت باز خواهند نمود. ***این دوره در پاییز 99 ضبط شده‌است***

این دوره سعی بر این دارد که با کلیت مبدل‌ها (Transformers) آشنا شوید و قادر به کدنویسی آنها برای اجرای پروژه‌های خود باشید. تئوری موضوع به‌طورکلی بیان شده و بیشتر بر اجرای کدها تمرکز شده است. این دوره به‌صورت مقدماتی و برای اجرای پروژه‌های پر تکرار بسیار مناسب است و به‌راحتی با آشنایی با موضوعات مطرح شده می‌توانید پروژه خودتان را پیاده‌سازی کنید.  فریم‌ورک Pytorch برای کدنویسی استفاده شده است و از کتابخانه Huggingface برای آموزش مدل‌ها بهره‌گیری شده است. برای دیتاست‌ها و مدل‌ها همگی از Huggingface استفاده شده است مواردی که در این دوره فرا خواهید گرفت:  آشنایی با Pipelineهای Huggingface برای اجرای خودکار و بدون نیاز به آموزش مدل‌های موجود آشنایی با آموزش مدل‌های موجود به دو روش Feature extraction و Fine tuning در قالب طبقه‌بندی متن (Text classification) آشنایی کامل با کدنویسی جزءبه‌جزء قسمت‌های مختلف مبدل‌ها (Transformers) پیاده‌سازی و آموزش یک مدل برای تشخیص هویت کلمه (NER) آشنایی با مدل‌های تولید متن و نحوه تنظیم این مدل‌ها برای بهبود عملکرد آشنایی با مدل‌های خلاصه‌سازی متن و معیارهای ارزیابی متن‌های تولید شده (Rouge)

ما در این دوره به آموزش عملی و تئوری NLP می‌پردازیم. این دوره با مفاهیم پایه پردازش زبان طبیعی شروع می‌شود، سپس به پیش‌پردازش متن به کمک کتابخانه هایی نظیر NLTK ، SpaCy و Hazm می‌پردازد. در ادامه استفاده از الگوریتم‌های یادگیری ماشین برای Text Classification در مدل های Spam Detection و Sentiment Analysis مورد بررسی قرار مي‌گیرد و در قسمت آخر با توضیح و ایجاد مدل های ‌Topic Modeling به پایان می‌رسد. پیش‌فرض این دوره این است که مخاطب هیچ اطلاعاتی در مورد پردازش زبان طبیعی ندارد، بنابراین تمام مباحث لازم مربوط به پردازش زبان طبیعی مرتبط با یادگیری ماشین از ابتدا و به صورت کامل پوشش داده شود. پردازش زبان طبیعی چیست ؟ پردازش زبان طبیعی (Natural Language Processing) یک شاخه از هوش مصنوعی است که به رایانه‌ها کمک می‌کند تا زبان انسان را درک و پردازش کنند. این امر به رایانه‌ها امکان می‌دهد تا با انسان‌ها به طور طبیعی ارتباط برقرار کنند و وظایفی مانند ترجمه، خلاصه‌نویسی، تشخیص گفتار، و پاسخ به سوالات را  که به درک زبان نیاز دارند،انجام دهند.   این دوره مناسب چه کسانی است؟ اگر تمایل دارید وارد حوزه پردازش زبان طبیعی شوید، فرآیند‌ها و کدنویسی آن را فرا بگیرید و بتوانید ‌مدل هایی ایجاد کنید که بتواند تسک های یادگیری ماشین را بر روی متن انجام دهد، این دوره مخصوص شما‌ست! سرفصل های این دوره : ۱- مبانی پردازش زبان طبیعی: آشنایی با تعاریف و مفاهیم اولیه همچنین مفاهیم بنیادی NLP مانند Tokenization  stemming، lemmatization، stop words ۲ - بررسی کتابخانه های پردازش متن : استفاده از کتابخانه NLTK ، کتابخانه پیشرفته Spacy و همچنین Hazm برای ,  Tokenization و lemmatization برچسب‌گذاری Part-of-Speech برای تشخیص نقش کلمات را در متن مانند اسم، فعل و صفت برچسب گذاری Named-Entity برای شناسایی مفاهیمی مانند پول، زمان، شرکت‌ها ،مکان ها و موارد دیگر رسم نمودار های روابط زبانی در با استفاده از کتابخانه‌ SpaCy ۳ - ساخت مدل یادگیری ماشین با Scikit-Learn برای انجام طبقه‌بندی متن ساخت خودکار سیستم‌های یادگیری ماشینی که می‌توانند متن های مثبت و منفی نظرات یا ایمیل‌های هرزنامه را تشخیص دهد ۴ - Topic Modelingروش‌های یادگیری بدون ناظر پیچیده‌تر برای پردازش زبان طبیعی، مانند LDA و ‌NMF، که در آن مدل‌های یادگیری ماشین ما موضوعات و مفاهیم اصلی را از فایل‌های متنی خام تشخیص می‌دهند.