Recentemente estava desenvolvendo um WebSite com ASP.NET 3.5 e quando fui utilizar o AJAX ControlToolKit tomei a seguinte mensagem de erro:

“AjaxControlToolkit requires ASP.NET Ajax 4.0 scripts. Ensure the correct version of the scripts are referenced. If you are using an ASP.NET ScriptManager, switch to the AjaxScriptManager in System.Web.Ajax.dll, or use the ToolkitScriptManager in AjaxControlToolkit.dll.”.

Depois de muito pesquisar eis a solução simples e prática.

Troque o seu

<asp:ScriptManager ID="scriptMaster" runat="server"></asp:ScriptManager>

Por

<asp:ToolkitScriptManager ID="toolkitScriptMaster" runat="server">
</asp:ToolkitScriptManager>

Pronto agora vai funcionar !!

Referências:

http://forums.asp.net/p/1506194/3663005.aspx

http://blog.thinkoriginally.com/2010/05/03/microsoft-jscript-runtime-error-ajaxcontroltoolkit-requires-asp-net-ajax-4-0-scripts/