رفتن به محتوای اصلی
متن کاوی چیست؟

متن کاوی چیست؟

متن کاوی اصلاحی است که به فرایند تحلیل و کاوش متن نسبت داده می شود. داده ها انواع مختلفی دارند. برخی به شکل اعداد، تصویر، صوت و برخی هم به صورت متن هستند. طبق گزارشی 80 درصد داده های موجود در سراسر دنیا به صورت متن هستند. هر روز که شما متنی را می نویسید و در دنیای وب منتشرش می کنید، در واقع به داده های موجود داده ای دیگر اضافه می کنید. حجم داده های موجود در وب روز به روز در حال افزایش است. 

ذخیره سازی، پردازش و تحلیل این حجم از اطلاعات تبدیل به چالشی شده است. سازمان های مختلفی وجود دارند که داده های متنی بسیاری را تولید می کنید. چگونه می توان این حجم از داده ها را مدیریت کرد؟ چگونه می توان اطلاعات مفیدی از این داده های متنی بی شمار بدست آورد؟ آیا این داده ها ارزشی دارند؟ متن کاوی یا text processing فناوری مورد استفاده برای چنین مواردی است.

با تکنیک های متن کاوی می توانید داده های متنی را بررسی و تحلیل کنید و از نتایج حاصل از این تحلیل اطلاعات ارزشمندی کسب نمایید. در واقع داده های متنی هیچ گونه ارزشی ندارند مگر اینکه متن کاوی شوند. متن کاوی به شناسایی الگوها، کلمات کلیدی، موضوعات و دیگر ویژگی های موجود در متن می پردازد. در این مقاله قصد داریم مروری بر تعریف داده کاوی، کاربردها، مراحل داده کاوی و تکنیک های مورد استفاده در آن داشته باشیم.

انواع داده ها

داده ها به صورت ساخت یافته (structured)، نیمه ساخت یافته (semi-unstructured) و غیر ساخت یافته (unstructured) وجود دارند. البته به این داده ها ساختاریافته، نیمه ساختار یافته و غیر ساختار یافته هم گفته می شود. داده های ساختار یافته همان داده هایی هستند که داخل فایل های اکسل در فیلدهای مختلف در سطرها و ستون های جدول قرار می دهید. اما داده های بدون ساخت یافته فرمت مشخصی ندارند. شما نمی توانید آن ها به عنوان یک فیلد اطلاعاتی در سطرها و ستون های جدول جای دهید.

حتما تا اینجا حدس اید که داده های متنی از چه نوع داده هایی هستند. متن ها از نوع داده های بدون ساختار یافته اند. البته متن می تواند حالت نیمه ساخت یافته هم داشته باشد. برای درک بیشتر ایم تفاوت به تصویر زیر دقت کنید. داده های بدون ساختار به صورت یک متن هستند. داده های ساخت یافته دارای فرمتی مشخص و در قالب جدول مشخص شده اند و داده ی نیمه ساخت یافته نیز در قابل جدول مشخص نشده اما به هر حال دارای ساختاری است که با برچسب هایی از یکدیگر جدا شده اند.

داده های ساخت یافته و داده های بدون ساختار

متن کاوی چگونه کار می کند؟

ویکی پدیا متن کاوی را این گونه تعریف می کند: «متن کاوی یا همان پردازش داده های متنی در واقع فرایند استخراج اطلاعات با کیفیت بالا از متن است». در این تعریف به این نکته اشاره شده است: “با پردازش داده های بدون ساختار اطلاعات معنی داری استخراج می شود.”

متن کاوی ابزارهای بازیابی اطلاعات، داده کاوی، یادگیری ماشین، آمار و زبان شناسی محاسباتی را بکار می گیرد تا اطلاعات موجود در متن ها را استخراج کند. 

مراحل متن کاوی

پنج گام اساسی در متن کاوی شامل مراحل زیر است:

  • در گام اول اطلاعات مورد نیاز جمع آوری می شود. برای مثال اگر شما بخواهید نظر مردم درباره ی برند و یا محصولات خود را بدانید، نظرات و بحث های مردم را در سایت های مختلف جمع آوری می کنید.
  • در مرحله ی دوم داده ها باید پیش پردازش و پاک سازی شوند. برای مثال ریشه یابی، حذف کلمات توقف، تبدیل حروف بزرگ به حروف کوچک، حذف اعداد و عملیات دیگر می توانند در مرحله ی پیش پردازش استفاده شوند.
  • در گام بعدی داده های متنی به داده های دارای ساختار تبدیل می شوند و در واقع دارای ساختاری می شوند که برای متن کاوی مناسب باشند. با انتخاب ویژگی هایی که به تحلیل بهتری منجر می شوند در این گام انجام می شود و برداری از کلمات ایجاد می شود. Bag of Words، TFIDF، Word2Vec از جمله روش های مورد استفاده برای تبدیل متن به بردار هستند.
  • در این گام، کار تحلیل و داده کاوی بر روی داده هایی که دارای ساختار شدند، انجام می شود. دسته بندی، خوشه بندی و استخراج اطلاعات روش های مورد استفاده برای متن کاوی هستند. برای انجام دسته بندی (Classification) باید تعدادی متن برچسب دار داشته باشیم و از این داده ها برای برچسب گذاری متن های جدید که برچسب ندارند استفاده کنیم. در خوشه بندی (Clustering) نیازی به داده ی برچسب دار نداریم و متن های مختلف بر اساس محتویاتی که دارند به خوشه های مختلفی دسته بندی می شوند.
  • در گام آخر نتایج به دست آمده از مرحله ی قبل بررسی می شود.

مراحل متن کاوی

تکنیک های متن کاوی 

در ادامه تعدادی از تکنیک هایی که در متن کاوی مورد استفاده قرار می گیرند را بررسی می کنیم.

دسته بندی متون

متن های داده شده به دسته های از پیش مشخص شده اختصاص داده می شوند. فرض کنید تعدادی متن دارید که موضوع هر یک مشخص است. حال متن جدیدی به این متن ها اضافه می شود. با استفاده از الگوریتم های دسته بندی و همچنین داشتن متن های با موضوع مشخص می توان، موضوع متن جدید را پیدا کرد.

استخراج اطلاعات

 به فرایند استخراج اطلاعات معنی دار از مقادیر زیاد داده های متنی اشاره دارد. این روش بر روی استخراج اسامی، ویژگی ها و ارتباط آن ها تمرکز دارد. اطلاعات استخراج شده برای دسترسی و بازیابی در آینده در یک پایگاه داده ذخیره می شود. اثر بخشی و کارایی نتایج بر اساس دقت و صحت آن ها مورد ارزیابی قرار می گیرد. فرض کنید نیاز باشد اسامی انسان ها، مکان ها، صفات و دیگر ویژگی ها استخراج شود، از این طریق می توان این موارد را استخراج کرد.

بازیابی اطلاعات

 به فرایند استخراج الگوهای مرتبط بر اساس مجموعه از خاصی از کلمات یا عبارات اشاره دارد. سیستم های استخراج اطلاعات از الگوریتم های متفاوتی برای ردیابی و نظارت بر رفتار کاربران و کشف داده های مرتبط با آن استفاده می کنند. موتور جستجوی گوگل و یاهو دو تا از مشهورترین سیستم های استخراج اطلاعات هستند.

دسته بندی

 دسته بندی متن یکی از روش های آگاهانه ی یادگیری ماشین است که از آن برای برچسب زنی متن ها در یکی از دسته های مشخص استفاده می شود. در واقع دسته بندی به عمل جمع آوری اسناد متنی و پردازش آن ها برای کشف دسته ی مناسب شان گفته می شود. نظرکاوی، شناسایی زبان، تعیین عنوان از کاربردهای دسته بندی متن هستند. سرویس طبقه بندی یا دسته بندی متن محصول شرکت هوش داده مهتاب می تواند متن ها را دسته بندی کند و این سرویس به صورت آنلاین ارائه می شود.

خوشه بندی

یکی از مهم ترین تکنیک های متن کاوی است که به دنبال شناسایی ساختارهای درونی در اطلاعات متنی و سازماندهی آن ها در گروه ها یا همان خوشه هاست تا بتوان آن ها را تجزیه و تحلیل کرد. یکی از چالش های مهم در خوشه بندی تشکیل خوشه های معنی دار از داده های متنی بدون برچسب و داشتن اطلاعات قبلی در مورد آن هاست.

خلاصه سازی

 خلاصه سازی متن اشاره به پردازش خودکار داده ها برای تولید یک متن خلاصه که شامل اطلاعات ارزشمند برای کاربر است. هدف از این کار دریافت اطلاعات متنی از چند منبع و خلاصه سازی آن بگونه ای است که مفهوم کلی و منظور متن حفظ شود. سرویس خلاصه سازی آنلاین را می توانید برای خلاصه سازی متون خود استفاده کنید.

فرکانس کلمات

برای یافتن کلمات پر تکرار در یک متن به کار می رود. این تکنیک می تواند برای موارد متعددی مفید باشد. یک مثال از این کاربرد وقتی است که درخواست کاربر تحلیل می شود و بیشترین تعداد تکرار کلمات در متن درخواستی او مثلا در “سرویس ارسال کالا” باشد، در این صورت ممکن است درخواست او هم در این مورد باشد.

نظرکاوی

نظرکاوی (sentiment analysis) به مطالعه ی نظرها، احساسات، ارزیابی ها، رفتار و عواطف افراد نسبت به موجودیت هایی مانند محصولات، افراد، سازمانها، موضوعات، حوادث می پردازد. با نظر کاوی می توان بازخوردهای مشتریان نسب به سازمان یا شرکت را مشخص کرده و همچنین اطلاعاتی در مورد رقبا و روند کنونی بازار در اختیار شرکت کسب کرد. یکی از برنامه هایی که به این منظور توسعه یافته مربوط به شرکت brand24 است که می توان از آن برای یافتن نظرات و احساسات مردم نسبت به شرکت خود یا رقبا استفاده کرد. علاوه بر این افراد عادی هم می توانند از مزیت نظرکاوی بهره ببرند به این صورت که قبل از تصمیم گیری در مورد خرید یا اقدام به انجام کاری از نظرات افراد دیگر مطلع شوند.

 

کاربردهای متن کاوی

کاربرد متن کاوی فقط محدود به کسب و کارها نمی شود. متن کاوی در بسیاری از صنایع از جمله مراکز آموزشی، مراکز بهداشتی،  شبکه های اجتماعی، صنایع مرتبط با داروسازی، پیش بینی آب و هوا، حمل و نقل، بیمه کاربرد دارد. شرکت های مختلفی هم اکنون سرویس های پردازش متن ار توسعه داده اند. در ادامه تعدادی از کاربردهای متن کاوی را مورد بررسی قرار داده ایم:

مدیریت ریسک

یکی از دلایل شکست در کسب و کارها تحلیل نامناسب و ناکافی ریسک است. استفاده از نرم افزارهای مدیریت ریسک مانند SAS Text Miner  که از متن کاوی استفاده می کند می تواند به کسب کارها کمک کند تا همراه روندهای کنونی حرکت کرده و توانایی خود را برای کاهش ریسک ارتقا دهند. به دلیل توانایی متن کاوی برای جمع آوری اطلاعات از منابع گوناگون و ارتباط دادن آن ها به یکدیگر، سازمان ها می توانند به اطلاعات درست در زمان مناسب دسترسی پیدا کرده و در نتیجه فرایند مدیریت ریسک سازمان خود را بهبود دهند.

سرویس مراقبت از مشتریان

تکنیک های متن کاوی از جمله پردازش زبان طبیعی در فرایند مراقبت از مشتریان از اهمیت زیادی برخوردار است. شرکت ها در حال سرمایه گذاری بر روی نرم افزارهای پردازش متن برای ارتقای تجربه ی کاربری مشتریان خود هستند که این کار با دریافت اطلاعات متنی از منابع متفاوت مانند نظرسنجی ها، بازخوردها، تماس های مشتریان انجام می شود. هدف تحلیل متن در این کاربرد، کاهش زمان پاسخ گویی است.

کشف کلاهبرداری

متن کاوی فرصت های بی شماری را برای صنایعی که اطلاعات متنی زیادی دارند، فراهم می کند. از جمله ی این شرکت ها می توان به شرکت های مالی و بیمه اشاره کرد. با ترکیب نتایج تحلیل متن با دیگر داده های ساختار یافته، زمان پاسخگویی به درخواست ها کمتر شده و از طرفی کلاهبرداری شناسایی می شوند.

هوش تجاری

سازمان ها و کسب کارها از متن کاوی به عنوان بخشی از هوش تجاری خود استفاده می کنند. در کنار کمک به ایجاد دیدی عمیق نسبت به رفتارهای مشتریان، متن کاوی به تحلیل نقاط قوت و ضعف آن ها نیز کمک کرده و در نتیجه نوعی مزیت رقابتی برای آن ها خواهد بود. ابزارهای متن کاوی مانند Cogito Intelligence Platform  و  IBM text analytics دیدی از عملکرد بازاریابی شرکت، مشتریان اخیر و روند بازار به آن ها می دهد.

تحلیل شبکه های اجتماعی

ابزارهای متن کاوی متنوعی برای تحلیل عملکرد شبکه های اجتماعی طراحی شده است. این ابزارها به ردیابی و تفسیر متن های تولید شده در سایت های خبری، بلاگها، ایمیل و دیگر موارد می پردازد. علاوه بر این، می توانند تعداد پستها، لایکها و فالوئرهای برند شما را در شبکه های اجتماعی مشخص کنند. در نتیجه با استفاده از این ابزارها می توانید عکس العمل مردم نسبت به برند خود را ارزیابی کنید.

مدیریت دانش

در هنگام مدیریت مقدار زیادی از داده های متنی، یافتن اطلاعات مهم به صورت سریع، دشوار است. سازمانها مخصوصا مراکز بهداشتی و درمانی با این چالش رو به رو هستند. استفاده از نرم افزارهای مدیریت دانش که از متن کاوی استفاده می کنند می تواند راه حل مناسبی برای مدیریت این داده ها باشد.

جلوگیری از جرایم اینترنتی

طبیعت ناشناخته ی اینترنت و ارتباطات آن منجر به افزایش جرایم اینترنتی می شود. امروزه برنامه هایی برای جلوگیری از این جرایم با بکارگیری متن کاوی توسعه یافته است که هر سازمانی می تواند از آن استفاده کند. فرض کنید کاربرانی اقدام به ارسال متن های نامناسب در سایت های مختلف می کنند. تشخیص متن های غیر اخلاقی و فیلتر کردن آن می تواند با تکنیک های مختلف متن کافی انجام شود. سایت های مختلف مخصوصا سایت هایی که بازدید کننده ی زیادی دارند و افراد مختلف به بحث و تبادل نظر حول موضوعات مطرح شده در پست های سایت می پردازند، می شود از سرویس های فیلتر متن های غیر اخلاقی استفاده کرد.

غنی سازی محتوا

داده های متنی اطلاعات با ارزشی دارند که به صورت خام و بدون تحلیل نمی توان از آن ها بهره مند شد. بهره برداری و استخراج اطلاعات مفید از این داده ها نیازمند صرف زمان زیادی از جانب یک انسان است تا تمام متن ها را خوانده و اطلاعات مفید آن را به صورت دستی استخراج نماید. با توجه به اینکه تکنیک های تحلیل متن می توانند مقدار زیادی اطلاعات را مدیریت کنند، استفاده از این تکنیک ها هنگام کار با داده های متنی بسیار مفید خواهد بود. این تکنیک ها، با ایجاد تگ هایی، محتوای در دسترس را مدیریت و خلاصه می کنند در نتیجه این داده ها می توانند برای اهداف مختلفی مفید واقع شوند.در واقع می توان با تکنیک های متن کاوی، محتوای موجود را غنی کرد.

فیلتر ایمیل های اسپم

ایمیل یکی از راه های ارتباطی ارزان، سریع و موثر است که با مشکل ایمیل های اسپم مواجه است. متن کاوی می تواند به بهبود فرایندهای فیلتر این اسپم ها کمک کند. در واقع با تحلیل متن های ایمیل و بکار بردن الگوریتم های متن کاوی می توان الگوهای نشان دهنده ی اسپم را در ایمیل ها شناسایی نمود.

تبلیغات شخصی سازی شده

با در اختیار داشتن اطلاعات کاربران می توان تبلیغاتی را به آن ها نشان داد که مطابق میل و سلیقه ی آن ها باشد. در این صورت دیگر همه ی کاربران یک نوع تبلیغ را مشاهده نمی کنند. با تحلیل محتوای متنی که یک نفر در اینترنت منتشر می کند، می توان ترجیحات او را شناسایی کرد. نظرات، بحث ها و گفت و گو های افراد منبع ارزشمندی برای پی بردن به گرایشات آن هاست.

تبدیل فینگلیش به فارسی

یکی دیگر از کاربردهای متن کاوی، بررسی متن و تبدیل فینگلیش به فارسی است. البته این کاربرد برای زبان فارسی است زیرا نوعی از شکل نوشتاری زبان فارسی به شمار می رود. برای تست این کاربرد به بخش سرویس تبدیل فینگلیش به فارسی مراجعه کنید.

منبع ۱، منبع ۲، منبع ۳

برای این نوشته 0 نظر ثبت شده است

پاسخی بگذارید

برگشت به بالا