What Does It Mean to "Reason"? "तर्कणम्" इत्यस्य कोऽर्थः?
I have spent a lot of time thinking about machines that reason. अहं तर्कयितॄणां यन्त्राणां विषये बहु समयं यावत् चिन्तितवान् अस्मि।
The more I think about it, the more uncomfortable I become with the word reason itself. अहं यतिशयम् एतद्विषये चिन्तयामि, तितिक्षया मयि "तर्कः" इति शब्दस्यैव विषये अस्वस्थता वर्धते।
We use it very casually. वयं सामान्यतः अस्य शब्दस्य शिथिलप्रयोगं कुर्मः।
We say that humans reason. We say that mathematicians reason. We say that theorem provers reason. We increasingly say that language models reason. वयं वदामः यत् मनुष्याः तर्कयन्ति। गणितज्ञाः तर्कयन्ति। प्रमेयसत्यापकाः तर्कयन्ति। सम्प्रति भाषाप्रतिरूपाणि (language models) अपि तर्कयन्ति इति वदामः।
But I have started wondering whether these things are actually doing the same thing. किन्तु मम मनसि सन्देहः उत्पद्यते यत् किम एतानि सर्वाणि यथार्थतः एकमेव कार्यं कुर्वन्ति?
And before asking whether a machine can reason, perhaps there is a more fundamental question we should ask: यन्त्रं तर्कयितुं शक्नोति वा इति प्रश्नात् पूर्वं, कदाचित् अस्माभिः एकः मूलभूतः प्रश्नः प्रष्टव्यः –
What does it mean to reason? "तर्कणम्" नाम किम्?
I don't think I have a complete answer. This is an attempt to find one. अहं न मन्ये मम पार्श्वे पूर्णम् उत्तरं वर्तते इति। एषः तस्य अन्वेषणस्य प्रयासः एव।
The Answer is Not the Reasoning उत्तरं न तु तर्कणम्
Consider a very simple argument: एकं सरलं तर्कं पश्यन्तु –
All humans are mortal.
Socrates is a human.
Therefore, Socrates is mortal. सर्वे मानवाः मरणशीलाः सन्ति।
सुकरातः मानवः अस्ति।
अतः, सुकरातः मरणशीलः अस्ति।
The conclusion is obvious. But imagine giving this problem to a machine and receiving the correct answer. Did the machine reason? निष्कर्षः स्पष्टः एव। किन्तु चिन्तयन्तु, एषा समस्या यन्त्राय दत्त्वा ततः समीचीनम् उत्तरं प्राप्तम्। किं यन्त्रेण तर्कितम्?
We don't necessarily know. It could have constructed the conclusion from the premises. It could have recognized a familiar logical pattern. It could have retrieved something similar from memory. It could have simply predicted the sequence of words that usually follows such a question. वयं निश्चितरूपेण न जानीमः। तद् आधारवाक्येभ्यः निष्कर्षस्य निर्माणं कृतवत् स्यात्। अथवा परिचितां तार्किकपद्धतिं ज्ञातवत् स्यात्। अथवा स्मृतितः तादृशं किमपि प्राप्तवत् स्यात्। अथवा केवलं तादृशप्रश्नस्य अनुगामिनां शब्दानां क्रमस्य पूर्वानुमानं कृतवत् स्यात्।
The output is the same. This bothers me. परिणामस्तु समानः एव। इदं मां बाधते।
Because if reasoning is defined only by the correctness of the final answer, then almost any sufficiently capable computational system could be called a reasoning system. यतः यदि तर्कणं केवलं परिणामस्य शुद्धतया एव परिभाष्यते, तर्हि प्रायः किमपि पर्याप्तक्षमतायुक्तं गणनयन्त्रं तर्कणयन्त्रं इति वक्तुं शक्यते।
A calculator gives the correct answer to an equation. A database gives the correct answer to a query. A search engine gives us relevant information. An algorithm finds the shortest path between two points. गणकयन्त्रं (calculator) समीकरणस्य शुद्धम् उत्तरं ददाति। तथ्यसङ्ग्रहः (database) प्रष्टव्यस्य योग्यमुत्तरं ददाति। शोधयन्त्रं (search engine) सम्बद्धं ज्ञानं ददाति। कलनविधिः (algorithm) बिन्दुद्वयस्य मध्ये लघुतमं मार्गं अन्वेषयति।
But I would hesitate to say that all of these systems reason. So perhaps reasoning is not simply the production of a correct answer. Perhaps the process matters. किन्तु अहमेताः सर्वाः प्रणालीः "तर्कयन्ति" इति वक्तुं सङ्कोचं करिष्यामि। अतः कदाचित् तर्कणं केवलं शुद्धपरिणामस्य उत्पादनं नास्ति। कदाचित् प्रक्रियायाः महत्त्वं वर्तते।
Is Reasoning Just Inference? किं तर्कणं केवलम् अनुमानम्?
The obvious next answer is that reasoning is inference. We have some information, apply some rules, and obtain something that was not explicitly present before. स्पष्टं द्वितीयम् उत्तरं यत् तर्कणं नाम अनुमानम्। अस्माकं समीपे किमपि तथ्यं भवति, वयं कांश्चन नियमान् प्रयोजयामः, तथा च तादृशं किमपि प्राप्नुमः यत् पूर्वं स्पष्टं नासीत्।
In formal logic, this is beautifully clean. Given: P → Q and P, we can infer: Q. औपचारिकतर्के (formal logic) एतद् अत्यन्तं स्पष्टं..."यदि P तर्हि Q", तथा च P दत्तम्, तर्हि निष्कर्षः सिध्यति Q इति।
There is something deeply satisfying about this. The conclusion follows. अस्मिन् कश्चन गभीरः सन्तोषः अस्ति। निष्कर्षः स्वतः सिध्यति।
But human reasoning is rarely this clean. Suppose I look outside and see dark clouds. I might think that it will rain. But I don't know that it will rain. I am making an inference from incomplete evidence. Perhaps the clouds are unusual. Perhaps there is no rain. Perhaps I am looking at smoke. किन्तु मानवतर्कः कदापि एतादृशः स्पष्टः न भवति। मन्यतां, अहं बहिः पश्यामि कृष्णमेघांश्च अवलोकयामि। अहं चिन्तयेयं यत् वृष्टिः भविष्यति। किन्तु अहं न जाने यत् वृष्टिः भविष्यति एव इति। अहं अपूर्णप्रमाणात् अनुमानं करोमि। कदाचित् मेघाः अपूर्वाः स्युः। कदाचित् वृष्टिः न भवेत्। कदाचित् अहं धूमं पश्यामि।
My conclusion can be reasonable without being certain. This seems important. We do not normally require certainty before calling something reasoning. In fact, perhaps reasoning becomes most interesting precisely when certainty is unavailable. मम निष्कर्षः निश्चितं विनापि युक्तियुक्तः भवितुं शक्नोति। एतद् महत्त्वपूर्णं प्रतीयते। वयं किमपि कार्यं तर्कणम् इति वक्तुं पूर्वं निश्चिततां न अपेक्षामहे। यथार्थतः, यदा निश्चितता न लभ्यते, तदैव तर्कणं सर्वाधिकं मनोरञ्जकं..."
Perhaps Reasoning Begins Where Certainty Ends कदाचित् निश्चिततायाः समाप्ती सत्यां तर्कणस्य आरम्भः भवति
If I already know everything about a situation, perhaps I don't need to reason. I simply execute the consequences. The difficulty begins when I don't know everything. यदि अहं स्थितेः सर्वं पूर्वमेव जानामि, तर्हि कदाचित् मम तर्कणस्य आवश्यकता नास्ति। अहं केवलं परिणामान् क्रियान्वितं करोमि। काठिन्यं तदा आरभ्यते यदा अहं सर्वं न जानामि।
I have incomplete information. My observations may be noisy. My assumptions may be wrong. Different pieces of evidence may point in different directions. And yet I still have to decide what to believe or what to do. मम समीपे अपूर्णं ज्ञानं भवति। मम निरीक्षणं दोषयुक्तं भवितुं शक्नोति। मम कल्पनाः अशुद्धाः भवितुं शक्नुवन्ति। विविधानि प्रमाणानि विविधदिशः प्रति सूचयितुं शक्नुवन्ति। तथा च मया किं विश्वास्यं किं च करणीयम् इति निर्णयः करणीयः एव।
This makes me wonder whether reasoning is fundamentally connected to uncertainty. Perhaps reasoning is not: Given complete information, calculate the answer. Perhaps it is closer to: Given incomplete information, determine what I am justified in believing or doing. एतेन मम मनसि चिन्तनं भवति यत् किं तर्कणं मूलतः अनिश्चिततया सह सम्बद्धम् अस्ति? कदाचित् तर्कणं नाम एतद् नास्ति – "पूर्णज्ञानस्य प्राप्तौ उत्तरं कलय"। कदाचित् एतद् समीपे अस्ति – "अपूर्णज्ञानस्य प्राप्तौ मया किं विश्वास्यं किं च करणीयम् इति न्याय्यं निर्दिश"।
That is a much more difficult problem. And it is also much closer to how humans actually live. सा तु अतिजटिला समस्या। तथा च सा मनुष्याणां वास्तविकजीवनस्य अतीव समीपे वर्तते।
The Strange Importance of Being Wrong अशुद्धतायाः विचित्रं महत्त्वम्
There is another property of human reasoning that I find particularly interesting. We can change our minds. I can believe something today and reject it tomorrow. मानवतर्कस्य अन्यः कश्चन गुणः अस्ति यः मम विशेषतया रुचिकरः प्रतीयते। वयं स्वमतिं परिवर्तयितुं शक्नुमः। अहं अद्य कस्मिंश्चित् विश्वासं कर्तुं शक्नोमि, श्वः च तं त्यक्तुं शक्नोमि।
Suppose I believe that a particular explanation for an observation is correct. Then I encounter new evidence. The evidence contradicts my explanation. I now have a choice. I can ignore the evidence. I can reinterpret it. Or I can change my belief. मन्यतां, अहं विश्वासं करोमि यत् कस्यचित् निरीक्षणस्य विशिष्टा व्याख्या समीचीना अस्ति। ततः अहं नवीनं प्रमाणं प्राप्नोमि। तत् प्रमाणं मम व्याख्यां खण्डयति। अधुना मम पार्श्वे विकल्पद्वयमस्ति। अहं प्रमाणम् उपेक्षितुं शक्नोमि। तस्य पुनः नवीनव्याख्यां कर्तुं शक्नोमि। अथवा अहं स्वविश्वासं परिवर्तयितुं शक्नोमि।
The third possibility is perhaps one of the most important characteristics of reasoning. A reasoning system should not merely produce conclusions. It should be capable of revising its conclusions. तृतीयः विकल्पः कदाचित् तर्कणस्य अत्यन्तं महत्त्वपूर्णं लक्षणं वर्तते। तर्कणप्रणाली केवलं निष्कर्षान् न उत्पादयेत्। सा स्वनिष्कर्षान् शोधयितुं (revise) समर्था भवेत्।
This makes reasoning strangely dependent on the possibility of being wrong. A system that can never reconsider its beliefs may be very good at computation, but I am not sure I would call that reasoning in the richer sense. Perhaps reasoning involves maintaining commitments that are always open to revision. एतेन तर्कणं विचित्ररूपेण भ्रमयुक्ततायाः सम्भावनायाम् आश्रितं भवति। या प्रणाली स्वविश्वासान् कदापि पुनः चिन्तयितुं न शक्नोति, सा गणने अतिचतुरा भवेत्, किन्तु अहं तां गभीरार्थे तर्कणप्रणालीं न वदिष्यामि। कदाचित् तर्कणे तादृशप्रतिबद्धानां संरक्षणं भवति ये सर्वदा संशोधनाय मुक्ताः सन्ति।
Reasoning in an Imperfect World अपूर्णे जगति तर्कणम्
This is where formal logic begins to feel insufficient as a complete description of human reasoning. Imagine that I believe P. Later I receive evidence suggesting: not P. What should happen? अत्रैव औपचारिकतर्कः मानवतर्कस्य पूर्णवर्णने अपूर्णः प्रतीयते। चिन्तयन्तु यत् अहं P इति विश्वासं करोमि। पश्चात् मया तादृशं प्रमाणं प्राप्तं यत् 'न P' इति सूचयति। किं भवेत्?
In a simple formal system, contradiction is a serious problem. But humans don't normally respond to one contradiction by declaring the entire system of thought useless. We investigate. सरले औपचारिकतन्त्रे विरोधः (contradiction) महती समस्या भवति। किन्तु मानवाः केवलम् एकेन विरोधेन स्वकीयां सर्वां विचारसरणिं व्यर्थां न मन्यन्ते। वयं गवेषणं कुर्मः।
Maybe the original evidence was unreliable. Maybe the new evidence is unreliable. Maybe both statements are true under different conditions. Maybe one conclusion was based on an assumption we didn't realize we had made. We negotiate between competing pieces of information. कदाचित् पूर्वप्रमाणम् अविश्वसनीयम् आसीत्। कदाचित् नवीनप्रमाणम् अविश्वसनीयम् अस्ति। कदाचित् उभे अपि वाक्ये भिन्नपरिस्थितिषु सत्ये स्तः। कदाचित् एकः निष्कर्षः तादृश्यां कल्पनायाम् आश्रितः आसीत् या अस्माभिः अलक्षितैव कृता। वयं परस्परविरोधितथ्यानां मध्ये मध्यस्थतां कुर्मः।
This is one reason I find defeasible reasoning interesting. A conclusion can be justified now and still be defeated later. That feels much closer to real reasoning than a system in which every conclusion is permanently true or permanently false. एतदेव कारणं यत् अहं "अपूरणीयतर्कं" (defeasible reasoning) रुचिकरं मन्ये। एकः निष्कर्षः अद्य न्याय्यः भवितुं शक्नोति, पुनः पश्चात् खण्डितः अपि भवितुं शक्नोति। तत् तस्य तन्त्रस्य अपेक्षया वास्तविकतर्कस्य अतीव समीपे प्रतीयते यत्र प्रत्येकः निष्कर्षः स्थायीरूपेण सत्यः असत्यो वा भवति।
Perhaps reasoning is partly about managing what we are currently committed to believing. कदाचित् तर्कणस्य अर्थः अस्ति यत् वयं वर्तमानसमये कस्मिन् विषये प्रतिबद्धताम अनुसरामः।
But Does Reasoning Require Language? किं तर्कणाय भाषायाः आवश्यकता वर्तते?
I am not convinced that it does. A child can solve a spatial problem before being able to describe the solution. An animal can navigate an environment, recognize danger, and change its behaviour without constructing a verbal argument. अहं न विश्वसिमि यत् भाषा आवश्यकी अस्ति। कश्चन शिशुः समाधानं वर्णयितुं पूर्वमेव कस्याश्चित् स्थानसम्बद्धायाः समस्यायाः समाधानं कर्तुं शक्नोति। कश्चन पशुः किमपि मौखिकं तर्कं विनापि मार्गे गन्तुं, भयं ज्ञातुं, स्वव्यवहारं च परिवर्तयितुं शक्नोति।
A chess engine can evaluate millions of positions without explaining its thoughts in natural language. So language and reasoning cannot simply be the same thing. Language may be one representation through which reasoning becomes visible to us. चतुरङ्गक्रीडायन्त्रं (chess engine) स्वविचारान् प्राकृतिकभाषया विनापि कोटिशः स्थितीनां मूल्याङ्कनं कर्तुं शक्नोति। अतः भाषा तर्कणञ्च केवलमेकं वस्तु भवितुं न शक्नुतः। भाषा केवलं तादृशं निरूपणं भवितुं शक्नोति येन तर्कणम् अस्माकं दृश्यं भवति।
This creates an interesting problem for modern AI. Large language models are extremely good at producing language. But language is not necessarily reasoning. A system can manipulate symbols without necessarily possessing the concepts those symbols refer to. At the same time, it would be too simplistic to conclude that language models therefore cannot reason. एतेन आधुनिककृत्रिमबुद्धेः (AI) कृते एका मनोहारिणी समस्या उत्पद्यते। बृहत्भाषाप्रतिरूपाणि (LLMs) भाषायाः उत्पादने अतीव निपुणानि सन्ति। किन्तु भाषा एव तर्कः इति न नियमः। प्रणाली प्रतीकात्मकं व्यवहारं कर्तुं शक्नोति, यद्यपि सा तेषां प्रतीकानां वास्तविकभावं न जानाति। तथापि भाषाप्रतिरूपाणि सर्वथा तर्कयितुं न शक्नुवन्ति इति निष्कर्षः सरलीकरणं भविष्यति।
The real question is more subtle: What kind of internal process is taking place when a system produces a conclusion? And can we distinguish genuine inference from the appearance of inference? वास्तविकः प्रश्नः तु गभीरः अस्ति – यदा काचित् प्रणाली निष्कर्षं ददाति, तदा तस्याः अन्तः कीदृशी प्रक्रिया प्रचलति? तथा च किं वयं वास्तविकानुमानं आभासानुमानात् पृथक् कर्तुं शक्नुमः?
Computation is Not Necessarily Reasoning गणना एव तर्कणम् इति न
As someone who enjoys building things from the computational side, I find this distinction particularly difficult. A computer performs computation. That much is obvious. But computation is an incredibly broad idea. सङ्गणकीयपक्षतः वस्तुओंनां निर्माणं रोचमानस्य मम कृते एषः भेदः विशेषतः कठिनः प्रतीयते। सङ्गणकयन्त्रं गणनां करोति। तत्तु स्पष्टमेव। किन्तु गणना (computation) एका अतीव विशाला परिकल्पना अस्ति।
A program can sort numbers. Another can simulate a physical system. Another can prove mathematical statements. Another can search a game tree. Another can update a probabilistic model. Another can generate text. All of them compute. कश्चन क्रमादेशः (program) सङ्ख्यानां वर्गीकरणं करोति। अन्यः कश्चन भौतिकतन्त्रस्य सिमुलेशनं करोति। अपरः कश्चन गणितीयप्रमेयान् सत्यापयति। अन्यः चतुरङ्गक्रीडावृक्षं अन्वेषयति। अपरः कश्चन सम्भाव्यताप्रतिरूपं (probability model) संवर्धयति। अन्यः भाषां जनयति। एते सर्वे एव गणनां कुर्वन्ति।
But computation alone does not tell us whether reasoning has occurred. Perhaps reasoning is a particular kind of computation. Perhaps it is computation guided by representations of beliefs, evidence, goals, and possible consequences. किन्तु केवलेन गणनेन तर्कणस्य सत्ता न सिद्धति। कदाचित् तर्कणं गणनायाः कश्चन विशिष्टः प्रकारः अस्ति। कदाचित् एषा तादृशी गणना अस्ति या विश्वासानां, प्रमाणानां, लक्ष्याणां, सम्भाव्यपरिणामानां च निरूपणेन मार्गदर्शिता भवति।
Or perhaps that definition is still too broad. Maybe reasoning is not a specific algorithm at all. Maybe it is a property that emerges when computation is organized in a particular way. अथवा सा व्याख्या अद्यापि अतिविशाला अस्ति। कदाचित् तर्कणं कश्चन विशिष्टः कलनविधिः (algorithm) एव नास्ति। कदाचित् एषः सः गुणः अस्ति यः तदा उत्पद्यते यदा गणना कस्याञ्चित् विशिष्टायां पद्धत्यां सङ्घटिता..."
I don't know. And I think admitting that uncertainty is more useful than pretending the distinction is already settled. अहं न जाने। तथा च ताम् अनिश्चिततां स्वीकर्तुं भेदस्य पूर्वमेव सिद्धत्वस्य मिथ्याकथनात् अधिकं श्रेयस्करम् अस्ति।
What About Consciousness? चेतनतायाः किं स्थानम्?
Then there is an even more uncomfortable question. Does reasoning require consciousness? ततः परं कश्चन अधिकः अस्वस्थकरः प्रश्नः उत्पद्यते – किं तर्कणाय चेतनता (consciousness) आवश्यकी अस्ति?
If I solve a mathematical problem consciously, I experience something while doing it. I may feel uncertain. I may notice that an assumption is wrong. I may have an intuition that a particular path is promising. I may suddenly understand something. यदि अहं सचेतनतया कामपि गणितीयां समस्यां समादधामि, तर्हि कार्यकाले कञ्चन अनुभवं प्राप्नोमि। अहम् अनिश्चितताम् अनुभवेयम्। अहं पश्येयं यत् मम कल्पना अशुद्धा आसीत्। मम अन्तःप्रेरणा भवेत् यत् कश्चन विशिष्टः मार्गः योग्यः अस्ति। अहं सहसा किमपि अवगच्छेयम्।
But is any of this necessary for reasoning? Suppose there existed a machine that could correctly evaluate arguments, detect contradictions, revise beliefs, construct plans, and arrive at justified conclusions—but had no subjective experience whatsoever. Would I say that it reasons? किन्तु किं तर्कणाय एतत् सर्वम् आवश्यकम्? मन्यतां, यदि तादृशं यन्त्रं भवेत् यत् युक्तीनां शुद्धमूल्याङ्कनं कर्तुं, विरोधं ज्ञातुं, विश्वासान् शोधयितुं, योजनाः कर्तुं, न्याय्यनिष्कर्षान् प्राप्तुं च समर्थं स्यात्—किन्तु तस्य कश्चन आन्तरिकः अनुभवः न भवेत्। किं तदा अहं वदिष्यामि यत् तत् तर्कयति?
My instinct is increasingly to say yes. But that creates another problem. If consciousness isn't required, then perhaps reasoning is more about the structure of a process than about the subjective experience accompanying it. That would make reasoning something that could, at least in principle, be engineered. And that is a much more interesting possibility. मम मनः अधिकाधिकं "आम्" इति वक्तुं प्रवृत्तं भवति। किन्तु तेन अन्या समस्या उत्पद्यते। यदि चेतनता न अपेक्षते, तर्हि कदाचित् तर्कणं कस्याश्चित् प्रक्रियायाः रचना अस्ति, न तु तस्याः सहगामी अनुभवः। एतेन तर्कणं तादृशं वस्तु भवति यत् सिद्धान्ते तन्त्राभियान्त्रिक्या (engineering) निर्मातुं शक्यते। सा तु अतीव रोचकी सम्भावना अस्ति।
Maybe Reasoning is About Changing States of Belief कदाचित् तर्कणं विश्वासावस्थानां परिवर्तनं वर्तते
I keep coming back to one idea. Perhaps reasoning is not fundamentally about answers. It is about changing the state of an agent. अहं पुनः पुनः एकं विचारं प्रति आगच्छामि। कदाचित् तर्कणं मूलतः उत्तराणां विषये नास्ति। एतद् कस्यचित् कर्तुः (agent) अवस्थापरिवर्तनस्य विषये अस्ति।
I begin with some beliefs. I encounter evidence. I apply some form of inference. I evaluate alternatives. I arrive at a new belief. Then another piece of evidence appears. I revise it. The process continues. अहम् कैश्चित् विश्वासैः आरभे। अहं प्रमाणं प्राप्नोमि। अहं कस्याश्चित् अनुमानप्रणाल्याः प्रयोगं करोमि। अहं विकल्पानां मूल्याङ्कनं करोमि। अहं नवीनं विश्वासं प्राप्नोमि। पुनः अपरं प्रमाणं दृश्यते। अहं तद् शोधयामि। एषा प्रक्रिया प्रचलति।
In that sense, reasoning might look less like a function: f(x) = y and more like a dynamic process: S0 → S1 → S2 → ... where each state represents what the agent currently believes, knows, assumes, or considers possible. तेन अर्थेन तर्कणं कस्यचित् फलस्य (function) f(x) = y सदृशं न प्रतीयते, अपितु एकस्याः गतिशीलायाः प्रक्रियायाः S_0 → S_1 → S_2 → ... सदृशं भवति यत्र प्रत्येका अवस्था कर्तुः तात्कालिकविश्वासं, ज्ञानं, कल्पनां वा सूचयति।
The important question is not merely: What answer did the system produce? but: Why did its internal state change from one state to another? And: Was that change justified by the information available to it? That distinction feels fundamental. महत्त्वपूर्णः प्रश्नः केवलं एषः नास्ति यत् प्रणाली कीदृशं निष्कर्षं दत्तवती? अपितु एषः अस्ति – तस्याः आन्तरिकी अवस्था कस्मात् कारणात् एकस्याः अन्यस्यां परिवर्तिता? तथा च – किं तत् परिवर्तनं उपलब्धज्ञानेन युक्तियुक्तम् आसीत्? एषः भेदः मूलभूतः प्रतीयते।
Then What is Reasoning? तर्हि तर्कणम् नाम किम्?
I am still hesitant to give a final definition. But if I had to propose one, I would currently describe reasoning as something like this: अहम् अद्यापि अन्तिमां परिभाषां दातुं सङ्कोचं करोमि। किन्तु यदि मया एका परिभाषा प्रस्तोतव्या, तर्हि अहं तर्कणं एवं वर्णयेयम् –
"Reasoning is the process by which an agent uses available information, assumptions, evidence, and prior beliefs to form, evaluate, or revise commitments about what is true, possible, or worth doing." "तर्कणं सा प्रक्रिया अस्ति यया कश्चन कर्ता उपलब्धज्ञानस्य, कल्पनानां, प्रमाणानां, पूर्वविश्वासाणां च उपयोगं कृत्वा सत्यस्य, सम्भाव्यस्य, करणीयस्य च विषये स्वप्रतिबद्धतां निर्मान्ति, मूल्याङ्कयन्ति, शोधयन्ति च।"
I like this definition because it leaves room for uncertainty. It leaves room for revision. It leaves room for imperfect information. It does not require language. And it does not immediately require consciousness. मह्यम् एषा परिभाषा रोचते यतोहि इयम् अनिश्चिततायै स्थानं ददाति। इयं संशोधनाय अवकाशं ददाति। इयम् अपूर्णज्ञानाय स्थानं ददाति। इयं भाषां न अपेक्षते। तथा च इयं सद्यः चेतनतां न अपेक्षते।
But even this definition raises more questions. What counts as an agent? What makes a belief a belief? How should conflicting evidence be represented? How should one conclusion defeat another? How do we distinguish inference from pattern recognition? How do we measure whether a reasoning process is actually good? And perhaps most importantly: Can we engineer such a process without fully understanding it ourselves? किन्तु इयमपि परिभाषा अधिकान् प्रश्नान् जनयति – कर्ता कः? कः विश्वासः विश्वासो भवति? परस्परविरोधितथ्यानां प्रदर्शनं कथं भवेत्? कथं एकः निष्कर्षः अन्यं खण्डयेत्? कथं वयं अनुमानं स्वरूपपरिज्ञानात् (pattern recognition) पृथक् कुर्मः? कथं वयं मापयामः यत् तर्कणप्रक्रिया यथार्थतः योग्या अस्ति वा? तथा च कदाचित् सर्वाधिकमहत्त्वपूर्णः प्रश्नः – किं वयं स्वयं गभीरतया अज्ञात्वा अपि तादृशीं प्रक्रियां तन्त्राभियान्त्रिक्या निर्मातुं शक्नुमः?
The Question I Actually Care About सः प्रश्नः यस्य कृते अहं यथार्थतः चिन्तयामि
This is ultimately why I keep returning to the problem. The current discussion around AI often asks: Can AI reason? But I think that question is premature. Before answering it, we need some idea of what we are looking for. एतदेव कारणं यत् अहं पुनः पुनः अस्याः समस्यायाः समीपं गच्छामि। कृत्रिमबुद्धेः (AI) विषये वर्तमाना चर्चा प्रायः पृच्छति – किं कृत्रिमबुद्धिः तर्कयितुं शक्नोति? किन्तु अहं मन्ये एषः प्रश्नः अकालः (premature) अस्ति। अस्योत्तरात् पूर्वं, अस्माकं पार्श्वे कश्चन विचारः भवेत् यत् वयं किं शोधयामः।
If a model solves a difficult mathematics problem, does that demonstrate reasoning? If it gives a convincing explanation that contains a subtle logical error, did it reason? If it reaches the correct conclusion for the wrong reason, what happened? If it changes its answer when presented with new evidence, is that reasoning? If it can identify that its previous conclusion was based on a faulty assumption, does that get us closer? यदि किमपि प्रतिरूपं कठिनाम गणितसमस्यां समादधाति, किं तत् तर्कणं सूचयति? यदि तत् गभीरतार्किकदोषयुक्तं प्रलोभकवर्णनं ददाति, किं तेन तर्कितम्? यदि तत् अशुद्धकारणेन शुद्धनिष्कर्षं प्राप्नोति, तर्हि किं जातम्? यदि तत् नवीनप्रमाणस्य प्राप्तौ स्वकीयं निष्कर्षं परिवर्तयति, किं तत् तर्कणम्? यदि तत् ज्ञातुं शक्नोति यत् तस्य पूर्वनिष्कर्षः अशुद्धकल्पनायाम् आधारितः आसीत्, किं वयं तस्य समीपं गच्छामः?
And if two systems produce exactly the same answers, but one maintains explicit beliefs, tracks evidence, handles contradictions, and revises its conclusions while the other simply predicts the next token, are they doing the same thing? I don't think the answer is obvious. Perhaps that is the real problem. तथा च यदि प्रणालीद्वयम् एकरूपमेव उत्तरं ददाति, किन्तु एका स्पष्टविश्वासान् धारयति, प्रमाणानि सूचयति, विरोधं निवारयति, निष्कर्षान् च शोधयति—यदा तु अन्या केवलं अग्रिमशब्दस्य पूर्वानुमानं करोति, किं ते उभे एकमेव कार्यं कुरुतः? अहं न मन्ये उत्तरं सरलमस्ति इति। कदाचित् सैव वास्तवी समस्या।
We have become very good at building systems that look intelligent. We are still trying to understand what intelligence actually consists of. And somewhere inside that gap lies the question of reasoning. वयं बुद्धिमान् दृश्यमानानां प्रणालीनां निर्माणे अतीव निपुणाः जाताः। वयं तु अद्यापि अवगन्तुं प्रयतमानाः स्मः यत् बुद्धिमत्ता नाम किम्। तथा च तस्य अन्तरालस्य अन्तः कुत्रचित् तर्कणस्य प्रश्नः तिष्ठति।
I don't think I have solved it. I don't even think I have defined it perfectly. But I suspect that before we can build machines that genuinely reason, we need to understand what reasoning is supposed to mean in the first place. अहं न मन्ये मया अस्य समाधानं कृतम्। अहं न मन्ये मया अस्य परिपूर्णा परिभाषा दत्ता। किन्तु मम शङ्का वर्तते यत् वयं यथार्थतः तर्कयितुं शक्नुवन्ति इति यन्त्राणां निर्माणं..."
Perhaps the hardest part of engineering a reasoning machine is not writing the algorithm. It is deciding what we mean by "reason." कदाचित् तर्कणयन्त्रस्य निर्माणे सर्वाधिकं कठिनं कार्यं कलनविधेः लेखनं नास्ति। तत् तु तर्कशब्दस्य अर्थनिर्णयः..."