latex

مُلَخَّص

أَظْهَرَت النَماذِجُ اللُغَوِيَّةُ الكَبِيرَةُ فَعّالِيَّتَها فِي تَطْبِيقَاتٍ لُغَوِيَّةٍ مُتَعَدِّدَةٍ، بِمَا فِي ذَلِكَ تَلْخِيصُ النُصُوصِ وَتَوْلِيدُ النُصُوصِ المُوَجَّهَةِ. وَمَعَ ذَلِكَ، لا تَزال الدِرَاسَاتُ حَوْلَ قُدْرَتِهَا عَلَى التَبْدِيل بَيْنَ الأَسَالِيبِ عَبْرَ ضَبْطِ التَعْلِيمَاتِ غَيْرَ مُسْتَكْشَفَةٍ بِشَكْلٍ كَافٍ. تَرْكِّز هَذِهِ الدِرَاسَةُ عَلَى قُدْرَاتِ التَبْدِيل بَيْنَ الأَسَالِيبِ لِلنَمَاذِجِ اللُغَوِيَّةِ الكَبِيرَةِ وَتُقَدِّم نَهْجًا جَدِيدًا يُسَمَّى ProSwitch، يَسْمَح لِنَمُوذَجِ اللُغَةِ بِتَوْلِيدِ نُصُوصٍ بِأُسْلُوبَيْنِ: اِحْتِرافِيٍّ وَغَيْرِ اِحْتِرافِيٍّ، مِن خِلَالِ الضَبْطِ وَالتَقْيِيمِ بِمُسَاعَدَةِ المَعْرِفَةِ المُتَعَلِّقَةِ بِالمَجَالِ وَالأُسْلُوبِ. يَتَكَوَّن ProSwitch مِن ثَلاثِ مَرَاحِلَ: التَحْضِيرِ المُعَزَّزِ بِنَمُوذَجِ اللُغَةِ الكَبِيرِ لِجَمْعِ المَعْرِفَةِ المُتَعَلِّقَةِ بِالمَجَالِ وَأَزْوَاجِ الأَسْئِلَةِ وَالأَجْوِبَةِ؛ ضَبْطِ التَعْلِيمَاتِ لِتَحْسِينِ النَمَاذِجِ اللُغَوِيَّةِ الكَبِيرَةِ مَعَ مُسْتَوَيَاتٍ مُتَعَدِّدَةٍ مِن صِيَغِ التَعْلِيمَاتِ؛ وَالتَقْيِيمِ الشَّامِلِ لِتَقْيِيمِ كُلٍّ مِن التَمْيِيزِ الاِحْتِرافِيِّ وَجُودَةِ النَصِّ المُوَلَّدِ بِناءً عَلَى المَرَاجِعِ. تُظْهِر التَحْلِيلَاتُ المُقَارَنَةُ لِـ ProSwitch مُقَارَنَةً بِالنَمَاذِجِ اللُغَوِيَّةِ الكَبِيرَةِ العَامَّةِ وَالمُتَخَصِّصَةِ أَنَّ نَهْجَنَا يَتَفَوَّقُ عَلَى الأَسَاسِيَّاتِ فِي التَبْدِيل بَيْنَ تَوْلِيدِ النُصُوصِ الاِحْتِرافِيَّةِ وَغَيْرِ الاِحْتِرافِيَّةِ.

مُقَدِّمَة

تَفَوَّقَت نَمَاذِجُ اللُغَةِ الكَبِيرَةِ، مِثْلَ ChatGPT وَ Llama (llama)، فِي مَهَامِّ اللُغَةِ الطَبِيعِيَّةِ، بِمَا فِي ذَلِكَ الإِجَابَةُ عَلَى الأَسْئِلَةِ (omar2023chatgpt, tan2023chatgpt, baek2023knowledgeaugmented) وَاسْتِخْرَاجُ المَعْلُومَاتِ (perot2023lmdx, PromptIE). فِي المَجَالاتِ المُحَدَّدَةِ، يُمْكِن لِنَمَاذِجِ اللُغَةِ الكَبِيرَةِ تَقْدِيمُ إِجَابَاتٍ تَتَنَاسَبُ مَعَ أُسْلُوبٍ مُعَيَّنٍ مِن خِلَالِ دَمْجِ المَعْرِفَةِ المُتَخَصِّصَةِ، كَمَا هُوَ الحَالُ مَعَ ChatDoctor (chatdoctor)، ChatLaw (chatlaw) وَ FinGPT (fingpt). وَمَعَ ذَلِكَ، لا تَزال نَمَاذِجُ اللُغَةِ الكَبِيرَةِ غَيْرَ مُسْتَغَلَّةٍ بِشَكْلٍ كَافٍ فِي التَبْدِيل بَيْنَ سِيَاقَاتٍ مُخْتَلِفَةٍ، مِثْلَ الأَسَالِيبِ المِهْنِيَّةِ وَغَيْرِ المِهْنِيَّةِ.

تَهْدِف الأَبْحَاثُ السَّابِقَةُ إِلَى تَحْقِيقِ الهَدَفِ المَذْكُورِ أَعْلَى مِن مَنْظُورٍ تَخَصُّصِيٍّ مُتَنَوِّعٍ. تَرْكِّز بَعْضُ الدِرَاسَاتِ فِي عِلْمِ اللُغَةِ وَالتَرْبِيَةِ عَلَى وَصْفِ خَصَائِصِ اللُغَةِ المِهْنِيَّةِ وَالعَامِّيَّةِ (malyuga2021expressive, orrego2016reception, malyuga2012professional)، مُشِيرَةً إِلَى أَنَّ السِمَةَ المُميَّزَةَ لِلُغَةِ المِهْنِيَّةِ هِيَ المُعْجَمُ المُصْطَلَحِيُّ وَالبُنْيَةُ المَنْطِقِيَّةُ. تَتَنَاوَلُ دِرَاسَاتٌ أُخْرَى فِي عِلْمِ الحَاسُوبِ نَقْلَ الأُسْلُوبِ بِهَدَفِ اِسْتِهْدَافِ المُسْتَخْدِمِينَ الخُبَرَاءَ وَالعَامَّةَ (pu-demberg-2023-chatgpt, xu2022self) مِن خِلَالِ تَوْلِيدِ نُصُوصٍ قَابِلَةٍ لِلتَحَكُّمِ، حَيْثُ يُقَدَّم مُطْلَبٌ يُحَدِّدُ الأُسْلُوبَ المَطْلُوبَ لِنَمُوذَجِ اللُغَةِ لِإِنْتَاجِ مُحْتَوًى يُحَاكِي السِينارِيُوهَاتِ الوَاقِعِيَّةِ (zhou2023controlled, NEURIPS2021_d0f5edad, li2022diffusionlm, pascual-etal-2021-plug-play). وَمَعَ ذَلِكَ، لا تَزال هُنَاكَ بَعْضُ القَضَايَا الَّتِي لَم تُسْتَكْشَفْ بَعْدُ. أَوَّلًا، الأَبْحَاثُ الحَالِيَّةُ لا تُعَالِجُ بِشَكْلٍ كَافٍ اِكْتِسَابَ قُدْرَاتِ التَبْدِيل بَيْنَ الأَسَالِيبِ فِي نَمَاذِجِ اللُغَةِ الكَبِيرَةِ مِن حَيْثُ الجَوَانِبِ المُعْجَمِيَّةِ وَالهَيْكَلِيَّةِ، خَاصَّةً فِيمَا يَتَعَلَّقُ بِالنُصُوصِ المِهْنِيَّةِ وَغَيْرِ المِهْنِيَّةِ. ثَانِيًا، مِن الضَرُورِيِّ اِقْتِرَاحُ إِسْتِرَاتِيجِيَّاتِ تَقْيِيمٍ كَمِّيَّةٍ لِتَقْيِيمِ التَمْيِيزِ الأُسْلُوبِيِّ لِلنُصُوصِ الَّتِي تُوَلِّدُهَا نَمَاذِجُ اللُغَةِ الكَبِيرَةِ. تُحَفِّزُ المُلاحَظَاتُ المَذْكُورَةُ أَعْلَى عَلَى اِسْتِكْشَافِ السُؤَالِ التَّالِي: كَيْفَ يُمْكِن تَحْسِينُ قُدْرَةِ نَمُوذَجِ اللُغَةِ الكَبِيرَةِ عَلَى التَبْدِيل بَيْنَ الاِسْتِجَابَاتِ ذاتِ الأُسْلُوبِ المِهْنِيِّ وَغَيْرِ المِهْنِيِّ، دُونَ المَسَاسِ بِمَهَارَاتِ تَوْلِيدِ النُصُوصِ.

تُقَدِّم هَذِهِ الدِرَاسَةُ ProSwitch، وَهِيَ طَرِيقَةٌ لِتَحْسِينِ قُدْرَةِ التَبْدِيل بَيْنَ الأَسَالِيبِ المِهْنِيَّةِ فِي نَمُوذَجِ اللُغَةِ الكَبِيرَةِ مِن خِلَالِ تَعْدِيلِ التَعْلِيمَاتِ المُوَجَّهَةِ بِالمَعْرِفَةِ وَالتَقْيِيمِ. تَتَضَمَّن العَمَلِيَّةُ ثَلاثَ مَرَاحِلَ، كَمَا هُوَ مُوَضَّحٌ فِي الشَكْلِ [framework]. فِي مَرْحَلَةِ إِعْدَادِ البَيَانَاتِ، نَجْمَعُ المَقَالاتِ وَالمَفَاهِيمَ المُحَدَّدَةَ بِالمَجَالِ، ثُمَّ نُولِّدُ مَجْمُوعَةَ بَيَانَاتٍ مُتَوَازِنَةٍ وَمَوْسُومَةٍ مِن أَزْوَاجِ الأَسْئِلَةِ وَالأَجْوِبَةِ مِن خِلَالِ عَمَلِيَّةِ تَوْسِيعِ البَيَانَاتِ شِبْهِ الآلِيَّةِ. خِلَالَ تَعْدِيلِ التَعْلِيمَاتِ، نُصَمِّمُ صِيَغًا مُتَعَدِّدَةً لِلمُطَالَبَاتِ لِنَمُوذَجِ اللُغَةِ الكَبِيرَةِ المُدَرَّبِ مُسْبَقًا لِتَحْسِينِ قُدْرَتِهِ عَلَى التَبْدِيل بَيْنَ الأَسَالِيبِ مِن خِلَالِ تَوْفِيرِ المَعْلُومَاتِ عَلَى مُسْتَوَيَاتٍ مُخْتَلِفَةٍ مِن التَفْصِيلِ. بِناءً عَلَى مِيزَاتِ الاِحْتِرَافِ المَوْصُوفَةِ فِي الدِرَاسَاتِ السَّابِقَةِ وَقُدْرَاتِ التَحْلِيلِ الدَّلالِيِّ القَوِيَّةِ لِـ GPT-4 (openai2023gpt4)، نَقْتَرِحُ إِسْتِرَاتِيجِيَّةَ تَقْيِيمٍ شَامِلَةٍ تَتَضَمَّنُ مُؤَشِّرَاتٍ لِكُلٍّ مِن التَمْيِيزِ الاِحْتِرَافِيِّ وَجُودَةِ اللُغَةِ المَرْجِعِيَّةِ. تُشِيرُ نَتَائِجُنَا إِلَى أَنَّ ProSwitch يُمْكِنُ أَنْ يُحَسِّنَ بِشَكْلٍ كَبِيرٍ قُدْرَةَ التَبْدِيل بَيْنَ الأَسَالِيبِ مُقَارَنَةً بِنَمَاذِجِ اللُغَةِ الكَبِيرَةِ العَامَّةِ وَالمُتَخَصِّصَةِ.

بِاخْتِصَار، إِسْهَامَاتُنَا كَالتَّالِي: (1) نُقَدِّم ProSwitch، أَوَّلَ بَحْثٍ عَن تَوْلِيدِ نُصُوصٍ بِأُسْلُوبٍ مِهْنِيٍّ وَغَيْرِ مِهْنِيٍّ مِن خِلَالِ اِسْتِغْلَالِ المَعْرِفَةِ المَجَالِيَّةِ عَبْرَ تَعْدِيلِ تَعْلِيمَاتِ نَمَاذِجِ اللُغَةِ الكَبِيرَةِ، وَهُوَ مُخْتَلِفٌ عَن الدِرَاسَاتِ النَّمَطِيَّةِ لِنَقْلِ الأُسْلُوبِ الَّتِي تُرَكِّزُ فَقَطْ عَلَى التَغْيِيرَاتِ المُعْجَمِيَّةِ. (2) نَقْتَرِحُ وَنُحَلِّلُ صِيَغَ التَعْلِيمَاتِ مِنْ مُسْتَوَيَاتٍ مُتَعَدِّدَةٍ لِتَنْفِيذِ عَمَلِيَّةِ تَعْدِيلِ التَعْلِيمَاتِ، مِنْ خِلَالِ تَوْفِيرِ مَعْلُومَاتٍ مَجَالِيَّةٍ غَنِيَّةٍ بِشَكْلٍ مُتَزَايِدٍ، وَهُوَ مَا يَخْتَلِفُ عَنْ تَعْدِيلِ المُطَالَبَاتِ وَتَعْدِيلِ التَعْلِيمَاتِ ذَاتِ المُسْتَوَى الوَاحِدِ المُسْتَخْدَمِ فِي مَهَامِّ نَقْلِ الأُسْلُوبِ السَّابِقَةِ وَتَوْلِيدِ النُصُوصِ القَابِلَةِ لِلتَحَكُّمِ. (3) نُجْرِي تَقْيِيمًا شَامِلًا مِنْ خِلَالِ اِقْتِرَاحِ مُؤَشِّرَاتٍ مِنْ جَوَانِبِ التَمْيِيزِ الاِحْتِرَافِيِّ وَجُودَةِ اللُغَةِ. الأَدَاءُ فِي مَجْمُوعَاتِ بَيَانَاتِ الأَسْئِلَةِ وَالأَجْوِبَةِ مِنَ المَجَالَيْنِ الطِبِّيِّ وَتِكْنُولُوجْيَا المَعْلُومَاتِ يُظْهِرُ أَنَّ ProSwitch يَتَفَوَّقُ عَلَى نَمَاذِجِ اللُغَةِ الكَبِيرَةِ العَامَّةِ وَالمُتَخَصِّصَةِ فِي قُدْرَتِهِ عَلَى التَبْدِيل بَيْنَ تَوْلِيدِ النُصُوصِ المِهْنِيَّةِ وَغَيْرِ المِهْنِيَّةِ.