کاربرد هوش مصنوعی در مشاورۀ اخلاقی؛ از ظرفیت‌های تحول‌آفرین تا چالش‌های اخلاقی

نوع مقاله : مقاله پژوهشی

نویسندگان

1 دانشجوی دکتری اخلاق اسلامی، دانشگاه معارف اسلامی، قم، ایران.

2 استادیار گروه اخلاق کاربردی، پژوهشکده اخلاق و روانشناسی اسلامی پژوهشگاه قرآن و حدیث، قم، ایران

چکیده

با گسترش و پیچیده‌تر شدن مسائل اخلاقی در دنیای امروز، نیاز به مشاورۀ اخلاقی دقیق و کارآمد بیش از پیش احساس می‌شود. چت‌بات‌های مبتنی بر هوش مصنوعی با ویژگی‌های منحصربه‌فرد، ظرفیت‌های قابل توجهی برای ارائه مشاوره جهت حلِّ مشکلات و ارتقای سطح اخلاقی جامعه دارند. در این مقاله ضمن بررسی فرصت‌ها و چالش‌های به‌کارگیری هوش مصنوعی برای مشاورۀ اخلاقی به راهکارهایی برای استفاده مسئولانه از این فناوری اشاره شده است. بنا به یافته‌های پژوهش، هوش مصنوعی مزیّت‌های فراوانی برای مشاورۀ اخلاقی دارد، از جمله: افزایش دقت و کارآمدی مشاوره، تسریع در ارائه مشاوره، شخصی‌سازی مشاوره و توسعه ابزارهای نوین برای ارائه مشاوره. با این‌حال، استفادۀ از این فناوری چالش‌هایی چون سوگیری الگوریتمی، فقدان مسئولیت‌پذیری، عدم توجه به ظرافت‌های اخلاقی و سوءاستفاده از داده‌ها را نیز در بر دارد که تدوین چارچوب‌های اخلاقی، افزایش شفافیت و نظارت، آموزش و ارتقای آگاهی و مشارکت‌دادن ذی‌نفعان را ضروری می‌سازد. البته، اعتماد کامل به مشاورۀ اخلاقی ارائه شده از سوی هوش مصنوعی درست نیست و از هوش مصنوعی فعلاً تنها می‌توان به ‌عنوان یک ابزار بهره گرفت و اتخاذ تصمیمات نهایی باید به عهدۀ انسان باشد.

کلیدواژه‌ها

عنوان مقاله [English]

The Application of Artificial Intelligence in Ethical Counseling: From Transformative Potentials to Ethical Challenges

نویسندگان [English]

  • reza jafari 1
  • Hosseinali Rahmati 2
1 Ph.D. Student in Islamic Ethics, University of Maaref, Qom, Iran
2 Assistant Professor, Department of Applied Ethics, Institute for Ethics and Islamic Psychology, Research Institute for Quran and Hadith, Qom, Iran
چکیده [English]

As ethical issues become increasingly complex in the modern world, the demand for precise and efficient ethical counseling has grown significantly. AI-powered chatbots, with their unique capabilities, offer substantial potential to provide guidance, address moral dilemmas, and contribute to the ethical development of society. This study examines both the opportunities and challenges associated with the use of artificial intelligence in ethical counseling and suggests strategies for its responsible implementation. The findings reveal that AI presents numerous advantages, including improved accuracy and efficiency, faster response times, personalized counseling, and the development of innovative advisory tools. However, its application also introduces ethical challenges such as algorithmic bias, lack of accountability, insufficient attention to moral subtleties, and risks of data misuse. These issues underscore the necessity of establishing ethical frameworks, enhancing transparency and oversight, promoting education and awareness, and involving stakeholders in the development process. Ultimately, complete reliance on AI for ethical counseling is not advisable. AI should be viewed as a supplementary tool rather than a replacement for human judgment, with final decision-making authority remaining in human hands.

کلیدواژه‌ها [English]

  • Artificial Intelligence
  • Ethical Counseling
  • Algorithmic Bias
  • Moral Responsibility
  • Data Ethics

مراجع

  •  منابع

    • [1] رحمتی، حسینعلی. (1401). تزاحم اخلاقی در شبکه های اجتماعی؛ از چالش تا تصمیم. قم: پژوهشگاه قرآن و حدیث.
    • [2] ریچلز، جیمز. (1396). عناصر فلسفه اخلاق. (ترجمه: محمود فتحعلی و علیرضا آل بویه). قم: پژوهشگاه علوم و فرهنگ اسلامی.
    • [3] لیندا الدر؛ ریچارد پل. (۱۳۹۷). آشنایی با مبانی استدلال اخلاقی بر اساس مفاهیم و اصول تفکر انتقادی. (ترجمه: پیام یزدانی). تهران: نشر اختران.
    • [4] نصر اصفهانی، مریم. (1399). پروای دیگران؛ درآمدی بر فلسفه اخلاق مراقبت. تهران: پژوهشگاه علوم انسانی و مطالعات فرهنگى‌.
    • [5] Beauchamp, T. L., & Childress, J. F. (2013). Principles of biomedical ethics (7th ed.). New York: Oxford University Press.
    • [6] Borenstein, J., & Howard, A. (2021). Emerging challenges in AI and the need for AI ethics education. AI and Ethics, 1(1), 61-65. https://doi.org/10.1007/s43681-020-00010-0
    • [7] Constantinescu, M., et al. (2022). Blame it on the AI? On the moral responsibility of artificial moral advisors. Philosophy & Technology, 35(2), Article 35. https://doi.org/10.1007/s13347-022-00539-7
    • [8] De Cremer, D., & Narayanan, D. (2023). How AI tools can—and cannot—help organizations become more ethical. Frontiers in Artificial Intelligence, 6, 1-11. https://doi.org/10.3389/frai.2023.1093712
    • [9] Deepti, S., & Rangaswamy, R. (2024). AI-driven mental health counseling: Opportunities, challenges, and ethical implications. Revista Electronica De Veterinaria, 25(1S), 550-558.
    • Dirican, C. (2015). The impacts of robotics, artificial intelligence on business and economics. Procedia - Social and Behavioral Sciences, 195, 564-573. https://doi.org/10.1016/j.sbspro.2015.06.134
    • Floridi, L., et al. (2018). AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5
    • Forester-Miller, H., & Davis, T. E. (2016). Practitioner’s guide to ethical decision making. Alexandria, VA: American Counseling Association.
    • Fulmer, R. (2019). Artificial intelligence and counseling: Four levels of implementation. Theory & Psychology, 29(6), 807–819. https://doi.org/10.1177/0959354319853045
    • Gardner, A. (2022). Responsibility, recourse, and redress: A focus on the three R’s of AI ethics. IEEE Technology and Society Magazine, 41(2), 84–89. https://doi.org/10.1109/MTS.2022.3173342
    • Ghallab, M. (2019). Responsible AI: requirements and challenges. AI Perspectives, 1(1), 1-7.
    • Goktas, P., & Grzybowski, A. (2025). Shaping the future of healthcare: Ethical clinical challenges and pathways to trustworthy AI. Journal of Clinical Medicine, 14(5), 1605. https://doi.org/10.3390/jcm14051605
    • Green, B. P. (2018). Ethical reflections on artificial intelligence. Studia Humana, 7(2), 9-31. https://doi.org/10.2478/sh-2018-0008
    • Kaplan, J. (2016). Artificial intelligence: What everyone needs to know. New York: Oxford University Press.
    • Khan, A. A., et al. (2022). Ethics of AI: A systematic literature review of principles and challenges. In Proceedings of the 26th International Conference on Evaluation and Assessment in Software Engineering (EASE '22) (pp. 383-392). New York: Association for Computing Machinery. https://doi.org/10.1145/3530019.3531329
    • Koutsouleris, N., et al. (2022). From promise to practice: towards the realisation of AI-informed mental health care. The Lancet Digital Health, 4(11), e829-e840. https://doi.org/10.1016/S2589-7500(22)00152-2
    • Machado, H., et al. (2025). Publics’ views on ethical challenges of artificial intelligence: A scoping review. AI and Ethics, 5(1), 139-167. https://doi.org/10.1007/s43681-023-00366-6
    • Martin, K. (2019). Ethical implications and accountability of algorithms. Journal of Business Ethics, 160(4), 835–850. https://doi.org/10.1007/s10551-018-3921-6
    • McCarthy, J. (1995). Making robots conscious of their mental states. In D. Michie & S. Muggleton (Eds.), Machine intelligence 15 (pp. 89-96). Oxford: Oxford University Press.
    • McGraw, D. K. (2024). Ethical responsibility in the design of artificial intelligence (AI) systems. International Journal on Responsibility, 7(1), Article 4. https://doi.org/10.62365/2576-0955.1114
    • Megdad, M. M., et al. (2024). Ethics in AI: Balancing innovation and responsibility. International Journal of Academic Pedagogical Research (IJAPR), 8(9), 20-25.
    • Mumali, F. (2022). Artificial neural network-based decision support systems in manufacturing processes: A systematic literature review. Computers & Industrial Engineering, 165, 107964. https://doi.org/10.1016/j.cie.2022.107964
    • Pant, A., et al. (2024). Ethics in the age of AI: An analysis of AI practitioners’ awareness and challenges. ACM Transactions on Software Engineering and Methodology, 33(3), 1-35. https://doi.org/10.1145/3635715
    • Ping, Y. (2024). Experience in psychological counseling supported by artificial intelligence technology. Technology and Health Care, 32(S1), 3871-3888. https://doi.org/10.3233/THC-230809
    • Rajkomar, A., et al. (2018). Scalable and accurate deep learning with electronic health records. npj Digital Medicine, 1(18), 1-10. https://doi.org/10.1038/s41746-018-0029-1
    • Russell, S. J., & Norvig, P. (2021). Artificial intelligence: A modern approach (4th ed.). London: Pearson.
    • Slote, M. (1992). From morality to virtue. New York: Oxford University Press.
    • Tsagem, S. Y., & Abdullahi, R. (2025, June). Artificial intelligence in mental health counseling: History, innovations, ethics, and future prospects. Paper presented at the 9th Annual National Conference of the Faculty of Education and Extension Services, Usmanu Danfodiyo University, Sokoto.
    • Veale, M., & Binns, R. (2017). Fairer machine learning in the real world: Mitigating discrimination without collecting sensitive data. Big Data & Society, 4(2), 1-18. https://doi.org/10.1177/2053951717743530
    • Walsh, C. G., et al. (2020). Stigma, biomarkers, and algorithmic bias: recommendations for precision behavioral health with artificial intelligence. JAMIA Open, 3(1), 9–15. https://doi.org/10.1093/jamiaopen/ooz054
    • Winston, J. (2005). Drama, narrative and moral education. London: Routledge.
    • Yahya, F. (2024). Ethical and privacy challenges in using AI in guidance & counselling. BICC Proceedings, 2, 238–244.

     

     

     

فایل ها

هم رسانی

ارجاع به این مقاله

آمار